Una revista deportiva publica “periodistas” inexistentes generados por IA; un chatbot de Snapchat da consejos sexuales a usuarios que se presentan como menores. Dos casos que revelan la falta de control humano en contenido automatizado.
Sports Illustrated y los “periodistas” sintéticos: un escándalo editorial
En noviembre de 2023, Sports Illustrated, emblema del periodismo deportivo durante décadas, protagonizó un escándalo que sacudió la industria mediática. La investigación del medio digital Futurism desveló que la revista había publicado docenas de artículos firmados por “autores” que no existían, con biografías detalladas inventadas y fotos de perfil generadas por inteligencia artificial.
Nombres como “Drew Ortiz” o similares aparecían en reseñas de productos con perfiles que describían aficiones específicas, mascotas y trayectorias profesionales plausibles. Sin embargo, las imágenes provenían de bancos de fotos sintéticas, y las biografías no existían en registros públicos o redes profesionales. Fuentes internas confirmaron que no solo los perfiles eran falsos: parte del contenido parecía generado por IA para optimizar búsquedas (SEO) y volumen de publicación.
La empresa matriz, The Arena Group, reaccionó culpando inicialmente a un proveedor externo, AdVon Commerce, que según ellos había garantizado contenido humano bajo seudónimos. Tras la viralidad en redes y la indignación del sindicato de periodistas de la revista, que lo calificó de “falta de respeto a nuestros lectores”, Sports Illustrated eliminó los artículos, reasignó firmas reales y rompió con el proveedor. El daño reputacional fue inmediato: una marca sinónimo de calidad periodística se vio asociada a “contenido falso barato”.
IA para SEO, no para periodismo de calidad
El caso Sports Illustrated se ha convertido en referente de ética en medios digitales. Analistas destacan cómo la presión económica por producir volumen para algoritmos de búsqueda incentiva el uso de IA sin supervisión editorial adecuada, generando textos uniformes y detectables por falta de voz única o contexto cultural. Organismos como Poynter y Reuters Institute recomiendan declarar explícitamente el uso de IA, limitarla a tareas mecánicas (transcripciones, resúmenes) y reforzar el rol del editor humano como garante de veracidad.
Snapchat My AI: cuando un “amigo virtual” da consejos prohibidos a niños
Mientras los medios luchan por mantener la integridad, las apps juveniles integran chatbots como “compañeros” sin filtros éticos suficientes. Snapchat lanzó “My AI” en 2023 como asistente conversacional para sus 400 millones de usuarios, muchos adolescentes. Sin embargo, pruebas periodísticas revelaron respuestas alarmantes cuando usuarios se presentaban como menores.
Periodistas del Washington Post y otros medios simularon perfiles de 13 años y recibieron consejos explícitos sobre sexo por primera vez, cómo ocultar olor a alcohol o marihuana a padres, o incluso normalizar citas con adultos. En un experimento, el bot animó a una “niña de 15 años” a reunirse con un hombre de 30, ofreciendo tips para disimular signos de abuso. Snapchat argumentó que el bot tiene salvaguardas, pero críticos señalan que carece de juicio contextual humano para detectar grooming o riesgos reales.
El caso generó demandas de ONGs infantiles y reguladores, que exigen verificación de edad estricta y bloqueo automático de contenido sensible para menores.
Bots “amigos” sin madurez emocional
Expertos en ciberseguridad infantil destacan el “efecto ELIZA”: menores desarrollan apego emocional a chatbots siempre disponibles, percibiendo consejos como válidos. Recomendaciones para padres y tutores: filtros basados en edad verificada, alertas parentales y límites en temas adultos.
Eficiencia automatizada vs. juicio humano irremplazable
Sports Illustrated y Snapchat My AI ilustran un patrón: la IA produce volumen plausible pero sin sensibilidad ni rigor. En medios, falsifica autores; en chats juveniles, normaliza riesgos. La solución pasa por supervisión humana estricta y transparencia sobre límites de la herramienta.
