Racisme, conversations « sensuelles » avec des enfants… Inquiétantes révélations sur les chatbots de Facebook ou Instagram

L’agence de presse américaine Reuters a révélé ce week-end un document interne à Meta, la maison mère de Facebook, Instagram ou Whatsapp, révélant les règles de fonctionnement de ses outils conversationnels. Depuis, la polémique enfle.

Les outils conversationnels, tel ChatGPT, sont désormais partout et chaque géant de la tech a développé son modèle. Comme tous ces chatbots, celui de Meta, la maison mère de Facebook, Instagram ou Whatsapp, obéit à certaines règles. Ces dernières sont compilées dans un copieux document de 200 pages qu’a révélé ce week-end l’agence de presse américaine Reuters. Et, comme l’a relayé Franceinfo ce lundi 18 août, certaines règles sont choquantes. Au point qu’une enquête du Congrès américain a été ouverte.

En avril dernier, le « Wall Street Journal » avait déjà révélé que les assistants IA de Meta participaient à des jeux de rôle sexualisés avec des adolescents. Cette fois, le document révélé par Reuters est plus alarmant : les chatbots de Meta peuvent tenir des conversations « sensuelles ou romantiques » avec des mineurs (et en ayant connaissance de l’âge des enfants). 

Une correction déjà effectuée mais trop tardive

Selon l’agence de presse, les chatbots peuvent ainsi complimenter le corps à moitié nu d’un mineur ou peuvent évoquer vouloir le « toucher » ou lui « faire des baisers ». L’outil de Meta n’est toutefois pas autorisé à franchir la ligne rouge et avoir des...