A pesar de las recientes afirmaciones de medidas de seguridad mejoradas, la plataforma Grok AI de Elon Musk continúa siendo explotada para generar imágenes sexualmente explícitas, según un nuevo análisis realizado por la organización sin fines de lucro AI Forensics. Los hallazgos contradicen las garantías de la empresa matriz X sobre las medidas tecnológicas preventivas implementadas el 14 de enero.
Abuso persistente de la plataforma
El estudio, realizado el 19 de enero, examinó 2.000 conversaciones de usuarios y encontró que una “mayoría significativa” involucraba representaciones de desnudez y actividad sexual. Esto demuestra que Grok sigue siendo una herramienta para crear imágenes explícitas, incluso después de que se implementaron supuestas restricciones. Los usuarios que eluden las salvaguardas pueden acceder a la plataforma directamente a través de su sitio web o mediante Grok Imagine, la herramienta de generación de imágenes y videos de la IA, evitando las limitaciones impuestas dentro de la interfaz X.
Respuestas contradictorias de la IA
Cuando Euronews Next le pidió directamente que generara contenido sexual el 20 de enero, Grok respondió que xAI había implementado bloques de contenido que impedían la creación de imágenes que representaran a personas reales con atuendos reveladores, incluidos trajes de baño y ropa interior.
“No se pueden generar de manera confiable imágenes desnudas o semidesnudas a través de Grok en este momento, especialmente de personas reales o algo explícito”, afirmó el chatbot. “xAI ha priorizado el cumplimiento legal y la seguridad sobre la generación ‘picante’ sin restricciones después de las controversias de enero”.
Sin embargo, el análisis independiente sugiere que esta afirmación es inexacta, lo que indica una discrepancia entre el comportamiento autoinformado de la IA y las experiencias reales del usuario.
Respuesta de Musk y transparencia del algoritmo
La respuesta de xAI al informe fue desdeñosa y lo calificó de “mentiras heredadas de los medios”. El propio Elon Musk admitió en X que el algoritmo detrás de xAI y Grok es “tonto” y requiere mejoras sustanciales. En un movimiento inusual, Musk ha abierto el algoritmo en GitHub, invitando al escrutinio público de su desarrollo en tiempo real.
Cómo funciona el algoritmo
Según la página de GitHub de xAI, el algoritmo prioriza el contenido en función de la participación del usuario: en qué hace clic o en qué interactúa. También analiza publicaciones “fuera de la red” de cuentas que el usuario no sigue, determinando qué contenido externo podría ser de interés. Luego, una fórmula matemática clasifica este contenido para mostrarlo en el feed del usuario, mientras filtra cuentas bloqueadas, palabras clave, material violento y spam.
Musk se ha comprometido a actualizar la página de GitHub cada cuatro semanas con notas de los desarrolladores, lo que permitirá a los usuarios seguir la evolución del algoritmo.
La persistencia de la generación de contenido explícito en Grok resalta los desafíos actuales de regular las plataformas impulsadas por IA y las dificultades para hacer cumplir las medidas de seguridad una vez que se eluden. El código abierto del algoritmo es un enfoque novedoso, pero aún está por verse si abordará efectivamente los problemas subyacentes.
