La IA se convierte en un peligro: Cómo los depredadores están utilizando la tecnología para atacar a los niños

La alarmante proliferación de contenido dañino generado por inteligencia artificial (IA) en el entorno digital ha llevado a un llamado urgente desde las Naciones Unidas para implementar medidas que protejan a los niños del abuso, la explotación y el trauma psicológico. Este fenómeno ha sido destacado por Cosmas Zavazava, director de la Oficina de Desarrollo de las Telecomunicaciones de la Unión Internacional de Telecomunicaciones (UIT), quien presentó una serie de directrices y recomendaciones sobre cómo abordar esta problemática.

Entre las formas en que los niños son vulnerables se encuentran el acoso sexual, los deepfakes, el ciberacoso y la exposición a contenido inapropiado. “Durante la pandemia de la COVID-19, muchos niños, especialmente niñas y mujeres jóvenes, sufrieron abusos en línea, lo que en ocasiones resultó en daños físicos”, subrayó Zavazava.

Las organizaciones defensoras de los derechos infantiles han advertido que los depredadores están utilizando la IA para analizar el comportamiento en línea de los menores, así como su estado emocional e intereses, con el fin de adaptar sus tácticas de acoso. Además, la tecnología permite a estos delincuentes crear imágenes falsas explícitas de niños reales, lo cual está impulsando nuevas formas de extorsión sexual.

Aumento alarmante de casos en EE.UU.

Un informe del Instituto Global de Seguridad Infantil Childlight revela que los casos de abuso infantil facilitado por tecnología en Estados Unidos han pasado de 4,700 en 2023 a más de 67,000 en 2024.

Ante esta situación crítica, los Estados Miembros de la ONU están tomando medidas más contundentes. A finales de 2025, Australia se convirtió en el primer país del mundo en prohibir las cuentas de redes sociales para menores de 16 años, argumentando que los riesgos asociados al contenido compartido superan ampliamente cualquier beneficio potencial.

El Gobierno australiano citó un estudio que reveló que casi dos tercios de los niños entre 10 y 15 años habían estado expuestos a contenido violento o perturbador y que más de la mitad había sufrido ciberacoso. La mayoría del contenido problemático se encontró en plataformas sociales.

Otros países siguen el ejemplo

Otros países como Malasia, Reino Unido, Francia y Canadá están considerando seguir el modelo australiano mediante la creación de regulaciones similares para proteger a sus jóvenes usuarios.

A comienzos de 2026, diversas agencias de la ONU firmaron una Declaración Conjunta sobre Inteligencia Artificial y Derechos del Niño. Este documento destaca no solo los riesgos asociados a la IA sino también la falta colectiva para abordarlos adecuadamente.

La declaración señala una carencia significativa en alfabetización sobre IA entre niños, educadores y padres, así como una insuficiencia en formación técnica para responsables políticos respecto a marcos normativos relacionados con IA y protección infantil.

Responsabilidad empresarial

La declaración también pone bajo escrutinio a las empresas tecnológicas. Se afirma que muchas herramientas basadas en IA no están diseñadas con consideración hacia el bienestar infantil. “Estamos realmente preocupados y deseamos que el sector privado participe activamente junto con otras entidades para garantizar un uso responsable”, afirmó Zavazava.

A pesar del escepticismo inicial sobre si estas empresas estarían dispuestas a frenar su innovación por razones éticas, Zavazava sostiene que es posible continuar obteniendo beneficios mientras se implementan prácticas responsables con la IA.

Derechos infantiles ante todo

Aunque se enfatiza la responsabilidad empresarial, también se hace un llamado a toda la sociedad para asumir su parte en cómo se utilizan estas tecnologías. Esta no es una preocupación nueva; ya en 2021 se incorporaron nuevos términos a la Convención sobre los Derechos del Niño para abordar los peligros emergentes derivados del entorno digital.

No obstante, organismos internacionales consideran necesario proporcionar más orientación para ayudar a regular eficazmente este ámbito y han elaborado un conjunto exhaustivo de recomendaciones.

“Los niños acceden a Internet cada vez más temprano y deben ser protegidos”, concluyó Zavazava. “Por eso hemos desarrollado directrices específicas: una parte destinada a padres, otra a docentes, una tercera para reguladores y una última dirigida al sector privado”.

Recomendaciones clave

• Los Estados deben fortalecer marcos regulatorios sobre IA para salvaguardar derechos infantiles.
• Las organizaciones globales deben integrar derechos del niño en políticas relacionadas con IA.
• Gobiernos y empresas deben asegurar sistemas transparentes y responsables que protejan a los menores.
• Es crucial prevenir violencia y explotación infantil potenciadas por tecnologías basadas en IA.
• Se requieren medidas robustas centradas en datos para proteger la privacidad infantil dentro del marco tecnológico.
• Cualquier decisión impulsada por IA debe priorizar el interés superior del niño y su desarrollo integral.
• Una IA inclusiva es esencial para garantizar beneficios equitativos para todos los niños ante nuevas tecnologías.
• Las experiencias infantiles deben guiar políticas sobre IA y diseño sistémico adecuado.
• El desarrollo tecnológico debe considerar sostenibilidad ambiental para proteger generaciones futuras.

La noticia en cifras

Preguntas sobre la noticia