El martes, las escuelas públicas de la ciudad de Nueva York publicaron nuevas directrices para los profesores que utilizan inteligencia artificial, las cuales están plagadas de advertencias y preocupaciones en torno a posibles violaciones de la privacidad, la precisión de los datos y los riesgos de difundir información errónea. 

A pesar de reconocer estas reservas cruciales, el sistema escolar procedió con la implementación, afirmando que los beneficios tecnológicos superan los riesgos asociados siempre y cuando la comunidad escolar siga las directrices.

El Departamento de Educación de la ciudad afirmó que está fomentando activamente que los educadores y directores de escuela utilicen la IA para diversas tareas, como obtener inspiración para ideas de lecciones, resumir información no confidencial y servicios de traducción. 

Sin embargo, la guía establece que, para muchas tareas, “se requiere la revisión y la supervisión humana antes de la distribución de materiales tanto sensibles como no sensibles, prestando especial atención al tono, la precisión y el impacto”.

El superintendente de educación, Kamar Samuels, afirmó que la nueva política de IA tiene como objetivo apoyar el proceso de enseñanza "sin comprometer la seguridad ni la integridad académica, al tiempo que enseña a nuestros hijos cuándo y cómo utilizar la IA de forma adecuada".

Luz roja, luz verde para la IA

Las directrices se elaboraron durante el último año en colaboración con el Grupo de Trabajo interno sobre IA de las Escuelas Públicas de la Ciudad de Nueva York, un panel del grupo de trabajo sobre privacidad de datos en materia de políticas educativas y un consejo asesor sobre IA, que incluyó a líderes de la industria, académicos, educadores y directores escolares. 

Las directrices adoptan un enfoque de "semáforo" para facilitar la toma de decisiones sobre las aplicaciones de la IA en entornos educativos. Sin embargo, Samuels explicó que, a medida que la IA continúa expandiéndose, no pretende sustituir a los docentes. 

“Si bien no existe ninguna herramienta ni recurso en el mundo que pueda reemplazar lo que nuestros maestros aportan a sus aulas todos los días, la IA puede utilizarse como una herramienta poderosa para hacer que el trabajo de nuestros educadores sea más eficiente, dándoles más tiempo para concentrarse en apoyar a nuestros estudiantes a medida que desarrollan habilidades esenciales de pensamiento crítico”, dijo. 

Las directrices iniciales están diseñadas para ayudar al personal escolar a utilizar la IA de forma reflexiva, ética y responsable. Asimismo, subrayan que el criterio humano es fundamental a la hora de revisar los materiales creados por IA.  

Según las directrices, la IA está prohibida para las decisiones relativas a los estudiantes, el desarrollo de planes de intervención temprana (EIP, por sus siglas en inglés) y planes 504, las calificaciones y la evaluación, la vigilancia y el comportamiento, y el asesoramiento sobre la atención a los estudiantes.

“Estos usos están totalmente prohibidos. Representan el mayor riesgo para los estudiantes, las familias y la equidad de nuestro sistema escolar. Sin excepciones”, indica la guía.

amNewYork se puso en contacto con el sindicato de maestros, la Federación Unida de Maestros (UFT), para conocer la opinión de sus miembros sobre las nuevas directrices y está a la espera de una respuesta. 

Mientras tanto, padres y maestros pueden enviar sus comentarios durante un período que se extiende hasta el 8 de mayo. Hay una encuesta disponible en línea en schools.nyc.gov .