Bogotá, 25 de octubre de 2025.- Sancionar prácticas que puedan llegar a transgredir los derechos de los niños, tales como la manipulación de imágenes, explotación y abuso infantil, acoso y otras formas de violencia digital, es uno de los objetivos del proyecto de ley liderado por la representante bolivarense Ángela Vergara, que inició trámite en el Congreso de la República.
La Representante a la Cámara por Bolívar, Angela María Vergara, en compañía de varios representantes de la Comisión de la Niñez, radicó el proyecto de ley que busca regular los sistemas de Inteligencia Artificial (IA) en Colombia, en particular, buscando la protección de los Niños, Niñas y Adolescentes en los entornos digitales.
Según la exposición de motivos, «con este proyecto de ley buscamos establecer un marco normativo que permita proteger a nuestros niños, niñas y adolescentes en entornos digitales, particularmente con aquellos relacionados con la Inteligencia Artificial. Buscamos que esta herramienta funcione de forma segura y salvaguardando siempre los derechos de los menores de edad y sancionamos aquellas prácticas que pueden llegar a transgredir los derechos de los niños, tales como la manipulación de imágenes, explotación y abuso infantil, acoso y otras formas de violencia digital».
Riesgos y amenazas frente a nuevas tecnologías
Si bien es cierto que los avances tecnológicos si bien nos han facilitado un sin fin de actividades, no es menos cierto que también han traído consigo nuevos riesgos y amenazas, en especial cuando se trata de los NNA.
Particularmente, en el caso de la IA, se ha identificado un sin fin de actividades que ponen en riesgo la integridad y demás derechos de los menores de edad; se trata de un fenómeno que cada vez es más fuerte que requiere ser atendido de forma inmediata. Proteger a los niños, niñas y adolescentes de nuestro país es un deber, es por ello que presentamos este proyecto de ley.
Los derechos de los niños prevalecen sobre los derechos de los demás y la tecnología no puede avanzar a costa de los derechos de los niños, niñas y adolescentes.
En conjunto con los estudiantes del Consultorio Jurídico de la Universidad Militar, se identificó que el uso indebido de tecnologías basadas en Inteligencia Artificial es un fenómeno que afecta de forma especial a los niños, niñas y adolescentes dada su condición de vulnerabilidad, provocando que se generen imágenes falsas hiperrealistas, clonación de voz o procesos de suplantación que han abierto la puerta a diferentes conductas delictivas y que pueden llegar a afectar gravemente la intimidad, integridad personal, dignidad humana y seguridad emocional de quienes se ven afectados; situación que se agrava aún más si se tiene en cuenta que dada la naturaleza de estas herramientas herramienta, estos contenidos pueden ser difundidos masivamente, dificultando su rastreo y muchas veces, generando una afectación prolongada en el tiempo.
Este proyecto no solo cierra estos vacíos normativos existentes en el ordenamiento penal y que impiden abordar la sofisticación de estas nuevas conductas, sino también busca adaptar el marco jurídico interno a estándares internacionales en materia de derechos humanos.
Contenido del proyecto
El proyecto se compone de un título único, y 5 capítulos que componen una serie de cambios, dentro de las cuales destacamos:
- Adicionamos un artículo nuevo a la ley 1341 de 2009 relacionado con plataformas de Inteligencia Artificial; con ello buscamos que la Comision de Regulacion de Comunicaciones tenga funciones de vigilancia de contenidos ilícitos en plataformas de IA, suspensión de contenidos y plataformas, certificación de plataformas seguras y cooperación internacional.
- Adicionamos un artículo nuevo a la ley 1480 de 2011 que busca que la Superintendencia de Industria y Comercio tenga funciones relacionadas con la Protección reforzada de consumidores digitales, control de publicidad y algoritmos, emisión de lineamientos obligatorios, facultades sancionatorias en caso de circulación de contenido inapropiado y registro de plataformas seguras.
- Buscamos una actuación conjunta entre el Ministerio de Tecnologías de la Información y las Comunicaciones, la Comision de Regulacion de Comunicaciones, la Superintendencia de Industria y Comercio y la Fiscalía General de la Nación
- Derechos de los usuarios de plataformas digitales y servicio de inteligencia artificial
- Obligaciones de los consumidores digitales
- Obligaciones de las empresas, plataformas digitales y desarrolladores de inteligencia artificial; entre ellas la adopción de sistemas de detección y bloqueo de contenido ilícito, mecanismos robustos de verificación de identidad y edad, canales de denuncia accesibles y confidenciales, planos para eliminación o restricción de contenidos, conservación de trazabilidad y datos técnicos, políticas de seguridad transparencia y control parental, entre otros.
- Obligatoriedad de etiquetación de contenido generado por Inteligencia Artificial
- Estándares y protocolos para la eliminación de contenido ilícito
- Educación en inteligencia artificial en sistemas educativos
- Régimen sancionatorio
- responsabilidad empresarial por uso indebido de inteligencia artificial en perjuicio de niños, niñas y adolescentes
- adicionamos una circunstancia de agravación punitiva al artículo 211A, 216, 217 y 247 del Código Penal
- Adicionamos un inciso a los artículo 218 y 347 del Código Penal
