El chatbot de inteligencia artificial Grok, desarrollado por xAI, la empresa de Elon Musk, restringirá la edición de imágenes de personas reales con ropa reveladora en territorios donde ese tipo de contenido infrinja la ley.
El anuncio fue publicado en la red social X tras una serie de denuncias sobre la generación de imágenes sexualizadas, incluyendo de mujeres y menores de edad. California, el estado más poblado de Estados Unidos, abrió una investigación al respecto, argumentando que este tipo de contenido constituye acoso. Según el fiscal general Rob Bonta, se solicitó a la empresa tomar medidas para evitar que el sistema siga siendo utilizado con fines de acoso.
La compañía indicó que ha implementado mecanismos tecnológicos para impedir que se generen o editen imágenes de personas con prendas como bikinis o ropa interior si eso contraviene las leyes locales.
Estas restricciones aplican a todos los usuarios, incluidos los suscriptores de pago, quienes también han sido limitados en sus capacidades de edición de imágenes. Según xAI, restringir la edición solo a cuentas verificadas y de pago facilitará la identificación de quienes intenten incumplir la normativa vigente o las políticas internas de uso de la plataforma.
La decisión ocurre tras reacciones internacionales que incluyeron bloqueos y advertencias. Gobiernos de países como Malasia, Indonesia, India, Francia, Brasil, Reino Unido y Filipinas tomaron acciones o iniciaron procesos de investigación contra Grok. La Unión Europea también revisa posibles infracciones a las normativas de seguridad digital.
En el Reino Unido, el regulador Ofcom continúa con las indagatorias, mientras que la secretaria de Tecnología, Liz Kendall, pidió a las plataformas cumplir con las leyes y ofrecer entornos seguros. California, por su parte, cuenta con leyes que prohíben la generación de imágenes íntimas no consensuadas por IA, aunque el gobernador Gavin Newsom vetó el año pasado una ley que habría restringido el acceso de menores a los chatbots de inteligencia artificial.
