Indonesia bloquea el acceso a Grok tras proliferación de imágenes sexuales hechas con IA

Yakarta, 10 ene (EFE).- Indonesia, el país con la mayor población musulmana del mundo, ha bloqueado este sábado el acceso a Grok, la herramienta de inteligencia artificial (IA) vinculada a la red social X, tras la proliferación de imágenes sexuales creadas por este chatbot, propiedad de multimillonario Elon Musk.

En un comunicado, el Ministerio de Comunicación y Digital de Indonesia anunció la medida, al considerar que la creación de imágenes sexuales falsas sin consentimiento de las personas agraviadas representa “una violación grave de los derechos humanos”.

La decisión fue tomada “para proteger a las mujeres, los niños y a toda la comunidad de los riesgos de contenido pornográfico falso generado mediante tecnología de inteligencia artificial”, dice el escrito.

En este sentido, el Gobierno de Prabowo Subianto ha solicitado a X, que tiene unas 25 millones de cuentas registradas en Indonesia, “que proporcione de inmediato una aclaración con respecto a los impactos negativos del uso de Grok”.

Al respecto, la agencia pública indonesia Antara agregó, citando fuentes gubernamentales, que se le ha exigido a la empresa de Musk “detallar medidas de mitigación” y “técnicas concretas para prevenir futuros usos indebidos”.

Anuncio

La cartera de Comunicación “enfatizó que, si bien el bloqueo es temporal, el futuro de Grok en Indonesia —uno de los mercados de redes sociales más grandes del mundo— depende completamente de la disposición de la plataforma a implementar filtros de contenido estrictos y estándares éticos de inteligencia artificial”, añadió Antara.

Esta suspensión se anuncia un día después de que X limitase a usuarios de pago el uso de Grok para editar imágenes, tras días de denuncias por el hecho de que accediera a peticiones de los usuarios para alterar imágenes de otras personas y desnudarlas sin consentimiento.

Esto implicará que el nombre y la información de pago del usuario estarían asociados a la imagen alterada sea del tipo que sea.

“Cualquier persona que utilice Grok para crear contenido ilegal sufrirá las mismas consecuencias que si sube contenido ilegal”, ha señalado Musk en X.

Grok es una herramienta gratuita que permitía a los usuarios subir y editar fotos, y que ha atendido peticiones de usuarios para editar imágenes de mujeres y de hombres y mostrarlos en bikini o sin ropa, lo que ha desatado una fuerte oleada de denuncias y quejas.

Anuncio

Share on Facebook

Tweet