AFT, UFT y Microsoft anuncian un "Estándar Nacional de Seguridad y Privacidad de la IA" para que las escuelas protejan a estudiantes, familias y educadores.

NUEVA YORK — Tras meses de intensas negociaciones y ante la ausencia de normas federales y estatales significativas que regulen la inteligencia artificial en las escuelas, la presidenta de la AFT, Randi Weingarten, el presidente de la Federación Unida de Maestros, Michael Mulgrew, y el vicepresidente y presidente de Microsoft, Brad Smith, anunciaron hoy un " Estándar Nacional de Seguridad y Privacidad de la IA " que establece protecciones legalmente vinculantes para garantizar la seguridad de los estudiantes, las familias y los educadores.

Este acuerdo , pionero en su género y que surge tras la prohibición de pantallas y de IA en las escuelas públicas de la ciudad de Nueva York, garantiza que las empresas tecnológicas no puedan usar datos de estudiantes para entrenar IA, que los estudiantes nunca puedan ser rastreados, que la IA no pueda tomar decisiones sin supervisión humana y que las empresas deban brindar a educadores y padres transparencia y respuestas claras sobre cómo funcionan sus herramientas. Los distritos escolares de EE. UU. pueden incorporar estas protecciones directamente en sus acuerdos con Microsoft, lo que las hace contractualmente vinculantes.

“Hemos logrado un acuerdo de privacidad sólido y contundente, fruto de una ardua lucha, que protege a estudiantes y familias, porque nadie más, ni siquiera el gobierno federal, ha asumido la responsabilidad de hacer el trabajo necesario”, declaró Weingarten. “Podemos enojarnos cada vez más o podemos actuar con decisión; cualquier cosa que no sean disposiciones legalmente vinculantes es simplemente una lista de deseos”. 

Weingarten continuó: “Este acuerdo garantiza tres objetivos fundamentales: proteger la privacidad y los datos de los niños, otorgar a las escuelas un control real sobre las herramientas de IA en el aula y brindar transparencia e información a los padres. Además, con la adopción por parte de la ciudad de Nueva York de nuestro marco para prohibir el uso de pantallas e IA en la infancia, este acuerdo impulsa aún más la iniciativa en torno a la seguridad en línea para niños y educadores”.

En un discurso pronunciado en mayo, titulado " Dejen los dispositivos a un lado, miren hacia arriba, manos a la obra ", Weingarten destacó su lucha por un estándar de privacidad de datos que sea exigible y pidió la prohibición total de pantallas desde el jardín de infancia hasta el segundo grado, la prohibición de la IA orientada a los estudiantes en la escuela primaria y la prohibición de los chatbots de acompañamiento social para estudiantes menores de 16 años. Un marco similar ha sido adoptado por el Distrito Escolar Unificado de Los Ángeles, el Sindicato de Maestros Unidos del Estado de Nueva York (la filial estatal de la AFT) y, la semana pasada, por las Escuelas Públicas de la Ciudad de Nueva York y el alcalde Zohran Mamdani.

“Este estándar establece un listón muy alto en materia de privacidad infantil y seguridad de la IA, y extenderemos este acuerdo a todos los distritos escolares del país”, declaró Smith, de Microsoft. 

En esencia, el acuerdo transforma los principios compartidos en protecciones claras y ejecutables centradas en tres prioridades:

Protección de la privacidad : Educadores, padres y estudiantes pueden tener la certeza de que sus datos les pertenecen. Los datos de estudiantes y educadores no se utilizarán para entrenar modelos de IA, ni se venderán ni se les darán otros usos, y las escuelas mantendrán el control sobre cómo se utilizan, conservan y eliminan dichos datos.

Mejorar la seguridad : Los estudiantes y educadores están protegidos por una sólida seguridad, medidas de protección y supervisión humana. Los sistemas de IA deben diseñarse para evitar experiencias dañinas o manipuladoras, proteger la información confidencial y cumplir con estándares rigurosos de seguridad, responsabilidad y uso responsable.

Garantizar la transparencia y el control : Las familias pueden esperar información clara y accesible sobre cómo se utiliza la IA en las escuelas y sus medidas de seguridad, incluyendo qué datos se recopilan y qué protecciones existen. Las escuelas conservan el control sobre cuándo y cómo se utiliza la IA, y las empresas deben comunicar con claridad los cambios en los productos, los riesgos y los controles.

“Los educadores estamos interviniendo para hacer lo que mejor sabemos hacer: proteger a nuestros estudiantes. Este acuerdo brinda a las familias y a los distritos escolares la protección de la información y la privacidad que han estado exigiendo, y les otorga a los distritos escolares la facultad de rescindir acuerdos y reclamar indemnizaciones a quienes infrinjan las normas. Comienza a crear igualdad de condiciones en un entorno competitivo y en constante cambio que carece de las salvaguardias que nuestros hijos y comunidades escolares necesitan”, declaró Mulgrew, de la UFT, quien dirige la filial de la AFT en la ciudad de Nueva York, con 200 000 miembros.

En 2024, la AFT publicó sus "Directrices de sentido común para el uso de tecnología avanzada en las escuelas", que establecieron nueve principios fundamentales para garantizar que los estudiantes y sus familias estuvieran informados y protegidos. El año pasado, anunció la creación de la Academia Nacional para la Instrucción en IA, que permite a los educadores acceder a capacitación sobre el uso y el mal uso de las herramientas de IA, en lugar de ser relegados a un segundo plano, como suele ocurrir con los cambios en la tecnología educativa. Liderada por educadores, la academia permite a los docentes no solo dominar la tecnología emergente, sino también velar por la seguridad y la privacidad de los estudiantes. 

“Las leyes HIPAA y FERPA nunca previeron la llegada de la IA”, dijo Weingarten, “y, en ausencia de esas protecciones, las empresas tecnológicas deben asumir la responsabilidad de los productos que crean y comercializan para estudiantes, educadores y comunidades”.

Aquí puede consultar una ficha informativa sobre el acuerdo y aquí puede consultar el acuerdo completo.