企業の人事部門によるAIの利用が拡大している。逸脱した利用に対する懸念の声も広がっている。
AIが応募者を事前選別しているとみられることが理由で面接の機会を得られず、就職先が見つからない人の証言がSNS上で拡散するなど、AI利用の死角を問題視する声が広がっている。フランスの現行法規では、候補者に関する情報をAIで検索することや、探している職に合致する職歴などの基準で候補者の絞り込みをAIにより行うことは禁止されていない。半面、性別などを含めた候補者の社会的プロフィール、写真、名字に基づいた選別、候補者に関する個人的な情報の検索は禁止されている。CNIL（個人情報保護機関）が示した判断によると、候補者の職業的な活動と直接の関係がある情報のみが収集対象として認められる。また、欧州連合（EU）の規則により、2025年2月以来、感情分析などのAIの一部の機能を職場で使用することが禁止されている。EUのAI法により、2027年12月2日からは、「高リスク」に分類されるAIの一部機能の使用に制限が加えられることになっている。人事部門における利用を含めて、企業は、AI規制の法令順守を立証する証拠を揃えることが義務付けられる。例えば、面接を撮影し、AIにより分析するに当たっては、対象者からの許可を取得することが必要になり、この点について、挙証責任は企業側に帰することになる。また、最終的判断をAIに任してはならないという大原則を順守するため、しかるべき証拠を残しておくことも必要になる。また、リモート面談を拒否した候補者に対して、採否を平等な扱いの下で決定したことを証明できるようにすることも必要になる。今後、施行まで1年余りが経過することになるが、その間に規制に適合しないAIツールの利用が広がり、既成事実が積み上げられる恐れがあると懸念する声も聞かれる。