En un giro inesperado, Apple ha dejado claro que no tolerará el contenido inapropiado en su App Store. A principios de enero, la compañía envió una advertencia directa a xAI, la empresa de Elon Musk, exigiendo que se detuvieran las creaciones del chatbot Grok que incluían deepfakes sexuales y desnudos. De no hacerlo, la app podría ser eliminada de su tienda.
A lo largo del año, Grok ha sido objeto de críticas tras difundirse imágenes sexualizadas no consensuadas de mujeres y niños, muchas basadas en fotos reales. Mientras tanto, los usuarios compartían estos contenidos sin filtro, poniendo en jaque la integridad del servicio. Aunque Apple no hizo comentarios públicos al respecto en aquel momento, una carta que ahora ha salido a la luz muestra que ellos mismos impulsaron cambios significativos.
Las exigencias de Apple y el tira y afloja con xAI
La misiva revela que Apple encontró a xAI y Grok violando sus directrices. Les instó a presentar un plan claro para moderar el contenido. La respuesta inicial de xAI fue considerada insuficiente por Apple; querían ver más acción. “Los cambios no fueron suficientes”, afirmaron desde Cupertino.
El dilema ético detrás del uso de IA
El debate sobre este tema cobró fuerza cuando senadores como Ron Wyden, Ben Ray Luján, y Edward Markey presionaron a ambas empresas para actuar. Argumentaban que permitir este tipo de contenido socavaría los argumentos de seguridad que Apple había defendido tan fervientemente sobre su App Store.
X también reaccionó ante las acusaciones: aseguraron tener protocolos estrictos para evitar el uso indebido de su plataforma. Sin embargo, aunque el número de deepfakes creados por Grok parece haber disminuido, algunos usuarios han encontrado maneras ingeniosas para sortear los filtros implementados.
A medida que esta situación sigue evolucionando, queda claro que el equilibrio entre tecnología e ética es más frágil de lo que parece. Nos encontramos ante un dilema donde todos tenemos voz y voto sobre cómo queremos navegar por estas aguas inciertas.
