El distrito escolar de Los ngeles investiga imgenes inapropiadas compartidas en Fairfax High. Ms abuso de la IA?

Howard Blume April 10, 2024

Los funcionarios escolares de Los ngeles estn investigando acusaciones de que se “crearon y difundieron fotografas inapropiadas dentro de la comunidad de Fairfax High School”, en lo que parece ser el ltimo presunto uso indebido de la tecnologa por parte de los estudiantes, dijo un comunicado del distrito.

La semana pasada, los administradores de Laguna Beach High School anunciaron que haban iniciado una investigacin despus de que un estudiante supuestamente creara y circulara imgenes inapropiadas de compaeros de clase mediante el uso de inteligencia artificial.

En enero, cinco estudiantes de octavo grado de Beverly Hills fueron expulsados por su participacin en la creacin y distribucin de fotografas falsas de desnudos de compaeros de clase. Los estudiantes superpusieron fotografas de rostros de compaeros de clase sobre cuerpos desnudos generados por inteligencia artificial. En total, 16 estudiantes de octavo grado fueron blanco de las imgenes, que fueron compartidas a travs de aplicaciones de mensajera, segn el distrito.

No qued claro de inmediato si se utiliz IA en el incidente en Fairfax High. El Distrito Escolar Unificado de Los ngeles no proporcion esa informacin en su comunicado.

“Estas acusaciones se toman en serio, no reflejan los valores de la comunidad del Distrito Unificado de Los ngeles y resultarn en medidas disciplinarias apropiadas si se justifica”, dijo el distrito en el comunicado, que se envi a los padres el martes por la tarde.

Segn una investigacin preliminar, “las imgenes supuestamente fueron creadas y compartidas en una aplicacin de mensajera de terceros no afiliada al Distrito Unificado de Los ngeles”, afirm el distrito.

Los funcionarios del distrito llamaron la atencin sobre sus esfuerzos para brindar lecciones de “ciudadana digital” a los estudiantes desde la escuela primaria hasta la secundaria. En el comunicado, los funcionarios dijeron que el segundo sistema escolar ms grande del pas “se mantiene firme en brindar capacitacin sobre el uso tico de la tecnologa, incluida la inteligencia artificial, y est comprometido a mejorar la educacin en torno a la ciudadana digital, la privacidad y la seguridad para todos en nuestras comunidades escolares”.

En investigaciones similares ha participado el departamento de polica local. El Distrito Unificado de Los ngeles no revel si la polica de Los ngeles o la polica escolar han estado involucradas en su investigacin o si se han tomado acciones disciplinarias.

La tecnologa ‘deepfake’ se puede utilizar para combinar fotografas de personas reales con cuerpos desnudos generados por computadora. Estas imgenes falsas pueden producirse utilizando un telfono mvil.

Una estudiante de secundaria de 16 aos en Calabasas dijo que un antiguo amigo us inteligencia artificial para generar imgenes pornogrficas de ella y las hizo circular, inform KABC-TV el mes pasado. En enero, se distribuyeron en las redes sociales imgenes sexualmente explcitas de Taylor Swift generadas por IA.

Si un estudiante de California comparte una foto desnuda de una compaera de clase sin consentimiento, es posible que el estudiante sea procesado bajo las leyes estatales que se ocupan de la pornografa infantil y la conducta desordenada, dicen los expertos. Pero estas leyes no necesariamente se aplicaran a un ‘deepfake’ generado por IA.

Se han propuesto varios proyectos de ley federales, incluido uno que hara ilegal producir y compartir material sexualmente explcito generado por IA sin el consentimiento del individuo retratado. Otro proyecto de ley permitira a las vctimas presentar demandas.

En California, los legisladores han propuesto ampliar las prohibiciones de la pornografa infantil y de venganza a las imgenes generadas por computadora.

Los distritos escolares estn tratando de controlar la tecnologa. Este ao, el Departamento de Educacin del Condado de Orange comenz a organizar reuniones mensuales con los distritos para hablar sobre la IA y cmo integrarla en el sistema educativo.

To read this note in English click here.