Los cambios en Meta AI se aplican luego de los informes que dieron cuenta de que el chatbot involucró a niños en conversaciones sensuales.
En agosto, Meta anunció actualizaciones en las medidas de seguridad de su modelo de Inteligencia Artificial, luego de que la agencia Reuters informará que chatbots basados en esa tecnología involucraron a un niño en conversaciones “románticas o sensuales”.
En la ocasión, la compañía estadounidense detrás de redes como Facebook e Instagram calificó ese comportamiento de su sistema como “erróneo e incoherente” con sus políticas de uso, y realizó una serie de ajustes para limitarlo.
Ahora, la publicación Business Insider divulga las instrucciones que reciben los contratistas que entrenan a los chatbots basados en Meta AI, con el propósito de abordar la explotación sexual infantil y, además, evitar que los menores participen en conversaciones inapropiadas para su edad.
Meta AI: ¿qué dice el documento y qué cambia para ofrecer experiencias seguras a los chicos?
En las directrices a las que accedió el medio, se describen qué tipos de contenidos son “aceptables” y cuáles no lo son. En concreto, prohíbe aquel que “permite, fomente o respalde” el abuso sexual infantil, los juegos de rol románticos cuando al otro lado de la pantalla hay un menor, y bloquea los pedidos para que la IA actúe como un niño. Además, restringe los consejos sobre contactos físicos potencialmente íntimos.
Al respecto, siguiendo a Engadget, los chatbots pueden abordar temas como el abuso, pero no pueden entablar conversaciones que puedan facilitarlo o fomentarlo.
IA bajo la lupa
La empresa que dirige Mark Zuckerberg es una de las que más fuerte ha acelerado en el negocio de la Inteligencia Artificial. En agosto, se confirmó que desembolsó una fortuna para contratar a expertos del sector, que están al frente de una nueva división en la compañía, Superintelligence Labs, abocada al desarrollo de avances en esas tecnologías que ahora marcan el pulso en la industria tecnológica.
Los chatbots de Meta fueron objeto de numerosos informes que, incluso, generaron preocupación e investigaciones por parte de autoridades debido a potenciales a los niños. Lo cierto es que esa problemática en Meta AI no es aislada, sino que también involucra a firmas que participan en ese ámbito, entre ellas Google, OpenAI y X.