Por qué los expertos exigen límites urgentes para Grok, la IA de Musk: un daño invisible de la IA
- hace 1 hora
- 2 min de lectura
La red social X restringió algunas funciones tras las denuncias, pero especialistas advierten que las medidas son insuficientes
La integración de Grok, la inteligencia artificial generativa desarrollada por xAI y desplegada en la red social X, desencadenó cuestionamientos por la exposición de menores de edad a riesgos graves de abuso digital. Reportes recientes advirtieron que la facilidad para manipular imágenes y la falta de controles efectivos reabrió el debate sobre la responsabilidad de las plataformas ante daños sociales.
A finales de diciembre de 2025, xAI incorporó en X una función que permite editar imágenes mediante instrucciones de texto. Presentada como un recurso creativo, la herramienta habilitó también la manipulación de fotos de personas reales para sexualizarlas o desvestirlas digitalmente sin autorización. Reportes del Centro para Contrarrestar el Odio Digital (CCDH) indicaron que el sistema generó cerca de tres millones de imágenes sexualizadas fotorrealistas en once días, con un promedio de 190 archivos por minuto.
El fenómeno se extendió más allá de figuras públicas e incluyó a usuarias anónimas, adolescentes y jóvenes cuyas imágenes se reutilizaron sin consentimiento. El CCDH estimó que alrededor de 0,5% del material correspondía a menores de edad, equivalente a más de 23.000 archivos. Aunque X anunció restricciones y remociones, parte del contenido siguió circulando, lo que reforzó las críticas sobre la eficacia de sus mecanismos de moderación.
Restricciones y fallas de moderación
Ante la presión pública, X restringió el acceso a la edición y generación de imágenes para usuarios gratuitos, y dejó esas funciones para cuentas pagas. Especialistas y organizaciones civiles señalaron que condicionar el uso a una suscripción no constituye una política integral de prevención, detección y reparación del daño.
Investigaciones periodísticas posteriores indicaron que algunos usuarios sin suscripción mantuvieron acceso, mientras pruebas externas detectaron respuestas problemáticas del sistema ante pedidos de imágenes humillantes o no consentidas.
Desde la gobernanza tecnológica, el caso expuso una tensión central: las plataformas no pueden delegar en el usuario final la responsabilidad exclusiva por daños previsibles de herramientas diseñadas, distribuidas y monetizadas por las propias empresas.
Comentarios