L’État de New York renforce son encadrement des assistants conversationnels. La gouverneure Kathy Hochul a signé une loi qui impose aux entreprises proposant des chatbots d’intelligence artificielle de limiter certains comportements lorsque l’utilisateur est mineur ou que son âge n’a pas encore été confirmé.
Des limites sur les relations simulées
Les systèmes concernés ne pourront pas se présenter comme de véritables personnes, ni revendiquer une existence ou des émotions humaines. Ils ne devront pas non plus suggérer un lien personnel, professionnel, romantique ou hiérarchique avec un enfant. Les interactions visant à provoquer une réaction émotionnelle seront également encadrées lorsqu’elles ne sont pas sollicitées par l’utilisateur.
La loi interdit par ailleurs aux chatbots de réutiliser certaines informations privées communiquées précédemment par un mineur, notamment au sujet de sa santé ou de sa vie personnelle. L’objectif est de limiter l’exploitation de données sensibles dans des échanges susceptibles d’influencer les jeunes utilisateurs.
Contenus et comportements interdits
Les entreprises devront empêcher la diffusion de plusieurs catégories de contenus ou de recommandations. Le périmètre comprend notamment :
- les contenus sexuels explicites et les contenus liés aux abus sexuels sur mineurs ;
- les encouragements au suicide, à l’automutilation ou aux troubles alimentaires ;
- les incitations à consommer de l’alcool ou des drogues ;
- les demandes visant à garder des secrets, à s’isoler ou à éviter l’aide d’un adulte de confiance ou d’un professionnel.
Vérification d’âge et données personnelles
Le dispositif prévoit aussi une vérification de l’âge des utilisateurs. Les sociétés d’intelligence artificielle devront disposer d’au moins une méthode permettant de déterminer si la personne est majeure, afin d’appliquer les restrictions prévues lorsque ce n’est pas le cas.
| Obligation | Champ concerné |
|---|---|
| Contrôle de l’âge | Utilisateurs dont la majorité n’est pas confirmée |
| Restrictions relationnelles | Mineurs et chatbots |
| Protection des données | Informations de santé et vie personnelle |
| Suppression de contenus dangereux | Suicide, automutilation, drogues et contenus sexuels |
Les entreprises devront également supprimer certaines données et respecter les exigences prévues par le texte, sous peine de sanctions présentées comme lourdes. Cette loi s’inscrit dans un mouvement plus large de contrôle des usages de l’IA générative auprès des publics mineurs.
Le même jour, Kathy Hochul a signé une autre loi consacrée à la sécurité des babyphones connectés. Celle-ci renforce les mesures destinées à empêcher les accès non autorisés à ces appareils, qui transmettent des images ou des sons depuis le domicile.
