El Gobierno de Canadá ha dado el primer paso para limitar el acceso de los menores de 16 años a las redes sociales, una iniciativa que también contempla nuevas obligaciones para los chatbots de inteligencia artificial y la creación de un organismo regulador encargado de supervisar el cumplimiento de la futura normativa por parte de las grandes tecnológicas.

Según avanza ABC, la propuesta legislativa, presentada por el Ejecutivo canadiense, busca que plataformas digitales y desarrolladores de sistemas de IA generativa adopten medidas específicas para proteger a los menores frente a contenidos considerados perjudiciales, así como reducir los riesgos asociados al uso intensivo de estas herramientas.

La ministra de Sanidad de Canadá, Marjorie Michel, defendió la necesidad de actuar ante el impacto que estas tecnologías tienen sobre los jóvenes. «Las plataformas de redes sociales y los chatbots de IA están diseñados para captar la atención. No favorecen el desarrollo saludable de la infancia y se han convertido en una fuente de ansiedad, aislamiento, depresión y otros problemas de salud mental para muchos jóvenes canadienses», afirmó en un comunicado.

Michel sostuvo además que «esta legislación proporcionará un entorno más seguro para los jóvenes canadienses y les permitirá conectar en persona, forjar amistades, concentrarse en la escuela y adquirir habilidades prácticas para que puedan prosperar».

La iniciativa se enmarca en una tendencia internacional cada vez más restrictiva respecto al acceso de los menores a las plataformas digitales. El pasado diciembre, Australia se convirtió en el primer país en prohibir el uso de redes sociales a los menores de 16 años. Ahora, Canadá estudia una vía alternativa que permitiría a los jóvenes seguir utilizando estos servicios siempre que las empresas demuestren que han incorporado medidas eficaces de protección infantil.

Según el Gobierno canadiense, las compañías deberán «priorizar la seguridad infantil al diseñar productos y funciones, incluyendo medidas para reducir su exposición a ciertos contenidos e interacciones de alto riesgo».

El proyecto también pone el foco sobre los chatbots de IA, entre ellos herramientas ampliamente utilizadas como ChatGPT. Las empresas estarán obligadas a mitigar el riesgo de que estos sistemas generen o difundan contenido dañino y deberán informar con transparencia sobre los mecanismos destinados a detectar posibles amenazas para la integridad de los usuarios o de terceros.

El ministro de Inteligencia Artificial, Evan Solomon, defendió la necesidad de establecer «unas normas claras que protejan a los niños, fomenten la confianza y exijan responsabilidades a las empresas».

La propuesta llega pocos meses después de un grave suceso ocurrido en la localidad canadiense de Tumbler Ridge: una adolescente presuntamente asesinó a seis personas, cinco de ellas menores, en un tiroteo en un centro educativo. La sospechosa habría mantenido durante meses conversaciones violentas con ChatGPT que, según diversas informaciones, fueron detectadas por empleados de OpenAI sin que se alertara a las autoridades.

Las nuevas obligaciones pretenden precisamente reforzar los mecanismos de prevención ante situaciones de riesgo y aumentar la responsabilidad de las empresas tecnológicas cuando detecten indicios preocupantes en las interacciones con sus sistemas.

La aprobación definitiva de la ley podría demorarse alrededor de un año.