OpenAI presenta una nueva variante de ChatGPT para adolescentes y responde al debate sobre la protección infantil

En concreto, según OpenAI, el nuevo producto se dirige a adolescentes de entre 13 y 17 años. Incorporará filtros de contenido más estrictos y restricciones en temas sensibles. Además, los padres y representantes legales podrán configurar determinados ajustes.

El lanzamiento se produce en un momento en que la empresa enfrenta desafíos legales. En una demanda se acusó a ChatGPT, entre otras cosas, de desempeñar un papel en tiroteos masivos, de incitar al suicidio y de generar adicción en menores sin supervisión parental. OpenAI rechazó las acusaciones y apuntó a las medidas de protección existentes.

Contexto de las demandas

Apenas la semana pasada, una fiscal de distrito en Massachusetts presentó cargos contra un joven de 17 años por un doble asesinato relacionado con la muerte de su madre y su hermano. El caso reavivó el debate sobre la responsabilidad de los proveedores de IA.

Con la nueva variante de protección juvenil, OpenAI responde a la presión pública. Observadores del sector interpretan la medida como un intento de recuperar la confianza de las familias y las autoridades de supervisión. "OpenAI said at the time that it had 'put in place industry leading protections and policies,'" declaró la empresa en un comunicado anterior.

El producto se lanzará inicialmente en EE. UU. Según la compañía, aún no se ha fijado una fecha concreta de lanzamiento para Europa. OpenAI tampoco reveló por el momento los detalles técnicos sobre cómo se implementará la supervisión parental. Expertos en educación exigen una estrecha coordinación con escuelas y organizaciones de protección juvenil.

Reacciones desde la academia y la sociedad civil

Desde el ámbito científico también se alzan voces que piden mayor transparencia sobre los datos de entrenamiento y los filtros de seguridad. Investigadores advierten que, incluso en modelos adaptados, podrían generarse contenidos inadecuados en situaciones de estrés. El sector apenas comienza a desarrollar estándares sólidos.

Las asociaciones de protección al consumidor valoran el paso de forma positiva en principio, pero consideran que aún hay cuestiones por aclarar. Por ejemplo, no está claro cómo gestionará OpenAI a los usuarios menores de edad que proporcionen datos falsos sobre su edad. La cuestión de la aplicación de las condiciones de uso también sigue siendo vaga.

OpenAI anunció que seguirá desarrollando la nueva versión de forma continua e incorporando las opiniones de padres, docentes y jóvenes. La empresa subrayó su voluntad de crear un marco seguro para el uso de la IA en el ámbito educativo.

Perspectivas sobre regulación y control

Los próximos meses se consideran decisivos: las autoridades de supervisión de varios estados de EE. UU. están evaluando actualmente si son necesarias regulaciones adicionales para los chatbots de IA. También en Bruselas se están llevando a cabo iniciativas en este sentido en el marco del Digital Services Act.

Mientras tanto, Sam Altman ha subrayado en comunicaciones internas que la protección de los menores es la máxima prioridad. Las reacciones de la clase política y la sociedad civil a la nueva versión para adolescentes determinarán en gran medida si la empresa podrá salir fortalecida de la crisis.

Por el momento, está por ver en qué medida las medidas de protección anunciadas surtirán realmente efecto. Según OpenAI, aún están pendientes revisiones independientes por parte de organizaciones de protección juvenil.