Eliminen Grok: organizaciones de derechos humanos piden vetar X en la App Store

Crece el escándalo en torno a la red social X (antes Twitter) y Grok, el chatbot desarrollado por xAI. Una coalición de 28 organizaciones de derechos humanos, entre ellas grupos de mujeres y entidades que vigilan la tecnología, ha enviado cartas abiertas a los máximos responsables de Apple y Google para exigirles que retiren X y Grok de sus tiendas de aplicaciones. El motivo es la difusión de contenido que infringe las normas de las plataformas: deepfakes de carácter sexual creados sin el consentimiento de las personas retratadas y material que, a juicio de las organizaciones, podría contener pornografía infantil.

La situación se agrava, según los activistas, porque Grok se utiliza de forma activa para crear y difundir esas imágenes. Subrayan que este tipo de contenido no solo vulnera las Apple App Review Guidelines, sino que además constituye un delito. Que Grok esté disponible tanto en la aplicación de X como directamente en una interfaz web agrava el problema, ya que amplía el alcance entre el público potencial, menores incluidos.

El problema de los deepfakes y su circulación en redes sociales dista mucho de ser nuevo, pero cobra cada vez más relevancia con el avance de la inteligencia artificial generativa. Crear imágenes y vídeos falsos realistas es cada vez más fácil y accesible, lo que supone riesgos serios para la privacidad y la seguridad de las personas. Las mujeres y los niños son especialmente vulnerables y con más frecuencia son víctimas de este tipo de contenido.

La petición de las organizaciones coloca a Apple y Google en una situación incómoda. Por un lado, están obligadas a cumplir sus propias normas y garantizar la seguridad de los usuarios. Por otro, retirar una aplicación popular como X podría provocar una reacción negativa de los usuarios y acusaciones de censura. Además, se plantea la cuestión de la libertad de expresión y de dónde acaba la responsabilidad de las plataformas por el contenido generado por los usuarios.

La decisión puede tener un gran impacto en toda la industria. Si Apple y Google acceden a las demandas, sentarían un precedente y podrían endurecerse las reglas para otras redes sociales y plataformas que usan inteligencia artificial. También podría impulsar el desarrollo de herramientas más eficaces para detectar y eliminar deepfakes y otros tipos de contenido dañino.

En última instancia, el éxito en la lucha contra la difusión de deepfakes y otros abusos en línea depende del esfuerzo conjunto de las empresas tecnológicas, las fuerzas del orden, las organizaciones de derechos humanos y los propios usuarios. No basta con desarrollar e implantar nuevas tecnologías: también hay que concienciar a la sociedad sobre los riesgos de los deepfakes y enseñar a la gente a reconocerlos.