El gobierno de Indonesia anunció este sábado el bloqueo temporal de Grok, el chatbot de inteligencia artificial vinculado a la red social X, tras detectar que la herramienta fue utilizada para generar y difundir imágenes sexuales falsas sin consentimiento.

El Ministerio de Comunicación y Asuntos Digitales calificó estas prácticas como “una violación grave de los derechos humanos” y explicó que la medida busca proteger a mujeres, niños y a la comunidad en general de los riesgos asociados al contenido pornográfico manipulado mediante IA.

El gobierno de Prabowo Subianto solicitó a X, que cuenta con alrededor de 25 millones de usuarios en Indonesia, una aclaración inmediata sobre los impactos negativos de Grok. Además, según la agencia pública Antara, se pidió a la empresa de Elon Musk detallar medidas de mitigación y técnicas concretas para evitar futuros abusos.

El ministerio enfatizó que el futuro de Grok en Indonesia dependerá de la disposición de la plataforma para implementar filtros estrictos y estándares éticos de inteligencia artificial.

La suspensión se produce un día después de que X limitara a usuarios de pago la función de edición de imágenes en Grok, tras denuncias de que la IA permitía alterar fotografías para desnudar personas sin su consentimiento. Musk advirtió que “cualquier persona que utilice Grok para crear contenido ilegal sufrirá las mismas consecuencias que si sube contenido ilegal”.

Grok, que hasta ahora era gratuita, permitía subir y editar fotos, incluso para mostrar a personas en bikini o sin ropa, lo que desató una ola de críticas y quejas en uno de los mercados de redes sociales más grandes del mundo.