La seguridad de la IA debe ser la prioridad.

Las autoridades deben actuar de inmediato para que la seguridad sea tan importante como la innovación.

Una encuesta publicada la semana pasada reveló que la mayoría de la gente en todo el mundo es cada vez más pesimista sobre el estado del mundo, y eso antes de la reciente oleada de advertencias de que la inteligencia artificial está en camino de destruir a la humanidad. De hecho, estamos en una era de profundas convulsiones causadas por guerras, la creciente crisis de asequibilidad, ataques a la democracia y los cambios sísmicos que la IA está provocando en prácticamente todos los aspectos de la sociedad. Sin embargo, soy optimista; quizás incluso una "adicta a la esperanza", parafraseando un término que la fallecida líder feminista Gloria Steinem usaba para describirse a sí misma. Mi esperanza no surge de un deseo pasivo, sino de la lucha activa por el progreso, junto con tantos otros impulsados ​​a actuar por la ansiedad ante las crisis de asequibilidad, democracia e IA.

Las advertencias apocalípticas sobre la posibilidad de que agentes de IA descontrolados dominen e incluso extingan a la humanidad ya no son cosa de ciencia ficción. El presidente Donald Trump es prácticamente el único que considera que las amenazas que plantea la IA son un engaño y que «los únicos controles que necesita la IA son un presidente fuerte, inteligente y con un alto coeficiente intelectual». Desde rivales políticos hasta el Papa León XIII, existe un creciente consenso en que, si bien la IA puede ser una fuerza poderosa para el bien, su uso sin control conlleva consecuencias potencialmente catastróficas y debe contar con mecanismos de control humanos; y el momento de actuar es ahora. 

El llamamiento del director ejecutivo de Anthropic, Dario Amodei, a una desaceleración global y a auditorías externas de la IA fue respaldado incluso por muchos de los competidores de Anthropic. El líder progresista, el senador Bernie Sanders, y Steve Bannon, artífice del movimiento MAGA, dejaron de lado sus diferencias la semana pasada para exigir controles sobre el potencial destructivo de las tecnologías emergentes. 

Participé en el evento donde hablaron Sanders y Bannon, la Asamblea Pro-Humana. Me alegró ver a tantas personas de ámbitos tan diversos —funcionarios electos de ambos partidos, líderes sindicales, padres, artistas y líderes de diversas confesiones— unidas para exigir que los funcionarios electos actúen para que la seguridad sea tan importante como la innovación. Es inconcebible que el gobierno federal no haya promulgado salvaguardias y regulaciones significativas para la IA, pero la AFT está tomando la iniciativa en lo que está a nuestro alcance. 

Partiendo de nuestro plan “dispositivos abajo, ojos arriba, manos a la obra” para impulsar el aprendizaje y la seguridad en la era de la IA, la AFT y la Federación Unida de Maestros alcanzaron este mes un acuerdo con Microsoft para un Estándar Nacional de Seguridad y Privacidad de IA para Escuelas , el primero de su tipo, que establece protecciones de seguridad de datos inquebrantables para estudiantes, familias y educadores. Si bien deseamos una legislación que promulgue ampliamente dichos estándares, este es un contrato legalmente vinculante que prioriza la privacidad, la seguridad y la transparencia. Este estándar garantiza la privacidad de los datos de estudiantes y educadores, sin excepción. Refuerza que cualquier uso de la IA requiere supervisión humana y brinda a las familias información clara sobre cómo se está utilizando la IA en las escuelas. Microsoft ha acordado que, a partir del 1 de noviembre, estos estándares formarán parte de todos sus contratos con los distritos escolares.

La AFT trabaja para lograr el equilibrio adecuado entre aprovechar los beneficios de la tecnología y mitigar sus riesgos. Por eso, el año pasado creamos la Academia Nacional para la Instrucción en IA , para ayudar a los docentes a dominar la IA y evitar que esta los domine a ellos. Se trata de un centro de capacitación diseñado y dirigido por educadores, basado en la confianza, la seguridad y una tecnología centrada en las personas. Se fundamenta en el trabajo que nuestros miembros iniciaron tras el anuncio de ChatGPT para desarrollar y actualizar continuamente las " Pautas de Sentido Común para el Uso de Tecnología Avanzada en las Escuelas " de la AFT.

En los 37 estados que han prohibido los teléfonos durante la jornada escolar, los niños participan mucho más, y los pasillos y comedores vuelven a llenarse de charlas y risas ahora que los alumnos no están absortos en sus teléfonos. Un año después de la prohibición total del uso de celulares, las escuelas de Dallas registran un aumento del 24 % en el préstamo de libros de la biblioteca. Imagínese el impacto en los índices de alfabetización con menos tiempo frente a las pantallas, un aprendizaje más activo y niños que vuelven a leer libros completos. 

La IA y otras tecnologías emergentes pueden parecer tan poderosas, tan imparables, que da la sensación de que no podemos hacer nada para protegernos. En medio de las numerosas y alarmantes advertencias recientes, he pensado en otro ícono que perdimos hace poco, Dolly Parton, a quien le gustaba decir: «No podemos controlar el viento, pero podemos ajustar las velas». 

Los vientos que arrastran la IA a todos los ámbitos de nuestra vida pueden ser turbulentos y aterradores. No nos queda más remedio que adaptarnos y protegernos de sus peligros. Pero ni los individuos ni la industria tecnológica pueden hacer frente al imparable avance de la IA por sí solos. El pueblo estadounidense exige que los líderes prioricen la seguridad tanto como la innovación; exige que el gobierno federal tome medidas concretas ahora para proteger nuestra seguridad y privacidad, a los trabajadores, el clima y a la humanidad misma. Por eso, las próximas elecciones podrían ser las más trascendentales de mi vida. Debemos elegir en noviembre y en adelante líderes que actúen con decisión para abordar la asequibilidad, la IA y la ansiedad, antes de que sea demasiado tarde.