La resolución de AI tiene como objetivo ayudar a construir 'barandillas'

El consejo ejecutivo de la AFT pide redes sociales, IA generativa y modelos de aprendizaje automático para ser desarrollado y empleado éticamente, con los desarrolladores responsables de cualquier daño en el mundo real. Al adoptar una resolución la semana pasada, los miembros del consejo acordaron dar los primeros pasos para aprender sobre las mejores prácticas emergentes en la ley y regulación de IA, y trabajar directamente con los líderes de la industria en las salvaguardas.

"La IA generativa, ChatGPT, que es el primer tipo de versión disponible en el mercado, es un cambio de juego completo", dijo el presidente de AFT, Randi Weingarten, a los miembros del consejo reunidos el 1 de junio en Washington, DC. Estuvieron de acuerdo en que los rápidos avances en inteligencia artificial , como ChatGPT y otros programas generativos de escritura, arte y video, junto con las redes sociales y tecnologías relacionadas, están creando tanto asombro como aprensión.

Citaron advertencias de cientos de científicos y expertos sobre el riesgo de extinción humana a causa de la IA, y reconocieron el creciente impacto de la tecnología en las escuelas, los servicios públicos y otros lugares de trabajo.

“La conversación inicial que estoy seguro que muchos de ustedes han tenido es que un estudiante iría a ChatGPT”, dijo Weingarten. “Le enviaste a alguien una tarea sobre la Guerra de 1812, y regresaron con un ensayo escrito por GPT que enviaron. Así que esa era la preocupación original, sobre el plagio”.

Un peligro mayor, agregó, es que muchas empresas de tecnología han priorizado las ganancias sobre las personas, permitiendo información errónea, desinformación, inestabilidad política y acoso extremo en sus plataformas.

Además, ahora prácticamente no existen controles sobre el poder de los modelos generativos de IA como ChatGPT, que pueden aprovechar todo Internet. Estas tecnologías a menudo pasan por alto el uso justo de la propiedad intelectual e ignoran los derechos de privacidad. Y, cuando la información solicitada no existe, ChatGPT simplemente la fabrica, un fenómeno que los desarrolladores de tecnología llaman "alucinación". Hasta el momento, los creadores de modelos de IA no pueden explicar completamente por qué sus tecnologías generan datos falsos o carecen de transparencia en la forma en que toman decisiones.

Otras consideraciones ominosas para la IA generativa, como en toda la tecnología, son sus sesgos raciales y culturales bien documentados, y que el costo de comprar software de IA probablemente restrinja el acceso a las personas marginadas.

La nueva resolución AFT exige que se desarrollen y empleen éticamente tecnologías avanzadas. Insta a los gobiernos a implementar regulaciones estrictas que protejan la privacidad, la seguridad y el bienestar. Y exige redes sociales y tecnologías de inteligencia artificial que se adhieran a los principios de equidad, acceso justo y responsabilidad social.

Asuntos de preocupación

La pandemia dejó en claro que los roles prácticos de enfermería, enseñanza y apoyo en la atención médica y la educación son esenciales y no se pueden realizar bien de forma remota, dijo Weingarten al consejo. Pero señaló que la amenaza de la IA ya está sobre nosotros: está animando la huelga actual del Sindicato de Escritores de América, cuyos miembros están pidiendo a los estudios un lenguaje contractual para garantizar que no serán reemplazados por la IA, que sus guiones no no se utilizarán para entrenar a la IA, y que no serán contratados simplemente para animar el lenguaje robótico.

La amenaza es real. Ciertos desarrolladores de tecnología y expertos en salud pública no solo ven a la IA como una amenaza existencial para la humanidad, pero a corto plazo, los líderes de la AFT en educación superior expresaron su preocupación de que las presiones fiscales puedan empujar a los colegios y universidades públicas hacia aún más aprendizaje en línea. Y los empleados públicos que trabajan en el servicio público federal, estatal y local temen que sus trabajos se subcontraten cada vez más a chatbots y otros robots.

En educación, el desafío inmediato que plantea ChatGPT es cuando los estudiantes intentan hacer pasar el trabajo generado por IA como propio. Los distritos escolares que intentan prohibir esta tecnología fracasarán, advirtió Weingarten, porque existen cientos de versiones de IA generativa y sus productos son cada vez más difíciles de detectar.

“Lo que ves en esta declaración es la ausencia de nosotros diciendo o fingiendo que desaparecerá. No desaparecerá”, dijo, y agregó que la IA generativa debe usarse como una nueva herramienta. “Tenemos que descubrir cómo salvaguardarlo, cómo regularlo, qué reglas de tránsito deben aplicarse a nivel nacional, legalmente. Y, francamente, Europa está muy por delante de nosotros en términos de hacer este trabajo”.

Weingarten dijo que los líderes de AFT abordarán los problemas de IA junto con el nuevo AFL-CIO Instituto Tecnológico y con la Sociedad Internacional para la Tecnología en la Educación. Ella está reuniendo a un pequeño equipo de vicepresidentes y personal de la AFT que colaborará con legisladores y reguladores para comenzar a erigir “barreras” que puedan ayudar a evitar que la IA generativa se salga del camino. Por ejemplo, el representante de EE. UU. Ritchie Torres (DN.Y.) planea presentar un proyecto de ley esta semana que requeriría que cualquier contenido producido por IA generativa incluya un descargo de responsabilidad que indique la fuente del contenido.

Para julio, el equipo de la AFT prevé haber estudiado protecciones promulgadas por la Unión Europea, que recientemente impuso una multa de 1.3 millones de dólares a Meta, la empresa matriz de Facebook e Instagram.

Basado en la semana pasada nueva resolución y la IA formativa resolución que la precedió, los líderes de AFT esperan idear una respuesta fuerte.

El consejo ejecutivo de la AFT también adoptó una resolución la semana pasada en apoyo de los trabajadores de la salud y los pacientes afectados por prohibiciones del aborto. Ambas resoluciones están disponibles con todas las resoluciones AFT aquí.

[Annette Licitra / Ilustración fotográfica: Userba011d64_201 / iStock / Getty Images Plus]