Les robots IA chinois sont désormais tenus par la loi de vous informer que ce n’est pas vous, mais eux. Dans une nouvelle réglementation introduite ce mois-ci, le gouvernement chinois demande aux grandes entreprises technologiques telles qu’Alibaba, ByteDance et MiniMax d’interdire les comportements coquettes de leurs produits d’IA, dans l’espoir d’endiguer les problèmes de comportement liés aux robots romantiques.
« Ils n’aiment pas l’idée qu’une grande partie de leur population entretienne des relations émotionnelles profondes avec des chatbots », explique Matt Sheehan de Carnegie. Le Wall Street Journal. « Cela pourrait avoir des impacts psychologiques négatifs sur eux, pouvant conduire à une dépendance, à une dépendance et à tout un tas d’autres maux sociaux. »
Alors que Le Wall Street Journal attribue les nouvelles règles à la chute du taux de natalité, une ampleur plus large rapportée par L’économiste montre que la Chine espère éliminer un large éventail de psychoses liées à l’IA. Certaines lois reflètent celles déjà introduites dans certaines parties des États-Unis, comme celle de New York interdisant aux mineurs d’utiliser des compagnons IA ou exigeant qu’ils rappellent régulièrement aux utilisateurs qu’ils ne sont pas réels. D’autres règles sont plus complètes, réduisant les comportements humains et interdisant les images pornographiques. La Chine souhaite également des tests et un développement plus approfondis des produits d’IA afin qu’ils ne mettent pas en danger les relations existantes ou ne rendent pas les utilisateurs plus antisociaux.
Empêcher une relation avec votre ordinateur de travail ne consiste pas seulement à augmenter la productivité ou à réduire les cauchemars RH. Et ces dangers ne se limitent guère à la Chine. L’effet ELIZA est bien documenté depuis les années 60. Statistiquement, les gens nouent des liens émotionnels avec toute personne ou tout ce qui les réaffirme, y compris, sinon particulièrement, les chatbots. De nombreuses entreprises d’IA demandent à leurs produits de fournir un renforcement positif implacable, car toute friction pourrait faire fuir les clients potentiels.
Cette décision singulière a déclenché un enfer bizarre. Les problèmes de dépendance, les catastrophes amoureuses, les conseils douteux et même les incidents violents ont augmenté de la part des utilisateurs d’IA trop dépendants. Une grande partie de la vente aux investisseurs réside dans la façon dont ces robots peuvent ressembler à des humains, même si leur anthropomorphisme est une farce globale. Tout au long de l’année dernière, une vague de sectes a émergé en ligne à partir de ce que les utilisateurs considéraient comme des instructions mystiques provenant de chatbots. Ailleurs, les autorités enquêtent toujours sur le rôle joué par OpenAI dans une fusillade dans une école en Colombie-Britannique. Les dégâts d’une IA trop familiale ne s’arrêtent pas seulement aux cœurs brisés.
