[responsivevoice_button buttontext="Escuchar la noticia" voice="Spanish

Latin American Female"]

Por Claudia Jiménez

Educar para la IA ya no solo significa aprender a utilizarla: significa comprender sus riesgos, las relaciones de poder que genera y nuestra responsabilidad colectiva para gobernarla.

De aprender a utilizar IA a gobernarla

La conversación sobre la inteligencia artificial (IA) ha cambiado radicalmente en apenas unos años. Pasamos del entusiasmo por las posibilidades de ChatGPT y la IA generativa a una discusión mucho más compleja: qué ocurre cuando estos sistemas adquieren mayores capacidades, toman decisiones de forma cada vez más autónoma y comienzan a intervenir en ámbitos críticos de nuestras sociedades.

Esta preocupación llegó al Consejo de Seguridad de las Naciones Unidas a finales de septiembre. En una sesión dedicada a IA y seguridad internacional participaron cuatro figuras centrales del ecosistema tecnológico: Yoshua Bengio, uno de los científicos pioneros del aprendizaje profundo; Sam Altman, CEO de OpenAI; Dario Amodei, CEO de Anthropic, y Clément Delangue, CEO de Hugging Face. Sus posiciones no fueron idénticas, pero coincidieron en algo fundamental: la autorregulación de las empresas tecnológicas ya no parece suficiente para afrontar los riesgos que acompañan al desarrollo de sistemas de IA cada vez más poderosos.  Esto debería interesarnos especialmente como formadores y profesionales de la educación. Porque formar ciudadanos para convivir con estas nuevas tecnologías exige algo más que enseñar a redactar buenos prompts con pensamiento crítico.  

De aprender a utilizar IA a gobernarla

Yoshua Bengio planteó uno de los argumentos más contundentes. Su preocupación se centra en tres riesgos: el uso catastrófico de la IA, la concentración de poder y la eventual pérdida de control sobre sistemas avanzados. Frente a ello, propone evaluaciones independientes, mecanismos obligatorios de reporte de incidentes, responsabilidades claramente establecidas e incluso sistemas de licencias para determinados modelos de frontera.

Su planteamiento contiene una idea especialmente relevante para la educación: la carrera tecnológica no forma parte de una ley inevitable de la naturaleza. Es resultado de decisiones económicas, políticas e institucionales y, por tanto, esas decisiones pueden modificarse. Esta afirmación cuestiona uno de los discursos que hemos incorporado en universidades y escuelas: que la IA “va demasiado rápido” y que nuestra única alternativa y salvación consiste en adaptarnos. No necesariamente.  La tecnología no aparece en el vacío. Detrás de cada sistema existen empresas, desarrolladores, infraestructuras, intereses económicos, marcos regulatorios y decisiones humanas. Educar para una ciudadanía digital crítica significa, precisamente, enseñar a reconocer estas estructuras.

Innovar, pero ¿hasta dónde?

Sam Altman introdujo otra dimensión al problema. Identifica como riesgos tanto la pérdida de control humano como la excesiva concentración del poder tecnológico. Ninguna empresa, persona o país sostiene, debería controlar una tecnología suficientemente poderosa como para imponer su visión sobre los demás.  Dario Amodei plantea una preocupación parecida sobre la velocidad del desarrollo. Su propuesta se sintetiza mediante una ecuación sencilla: las capacidades de la IA no deberían avanzar más rápido que nuestra capacidad para garantizar su seguridad y gobernarlas. Por ello, plantea evaluadores externos, mecanismos internacionales de verificación, estándares comunes y sistemas de notificación de incidentes. La cuestión es relevante porque, durante los últimos años, hemos construido buena parte del discurso educativo alrededor de una premisa: debemos acelerar la adopción de la IA para no quedarnos atrás.

Pero quizá deberíamos añadir una segunda pregunta: ¿quedarnos atrás respecto a qué y a quién? Adoptar una tecnología con rapidez no equivale necesariamente a comprenderla, y mucho menos a utilizarla responsablemente. Una institución educativa puede incorporar decenas de herramientas de IA y carecer de políticas claras sobre privacidad, sesgos, propiedad intelectual, transparencia, evaluación académica o responsabilidad ante decisiones automatizadas. Eso no es transformación digital. Es adopción tecnológica sin gobernanza.

El otro riesgo: concentrar el poder

Clément Delangue introduce una perspectiva distinta. Para el CEO de Hugging Face, uno de los principales peligros no reside únicamente en la existencia de sistemas de IA poderosos, sino en la asimetría en el acceso a ese poder: entre atacantes y defensores, grandes compañías y pequeñas organizaciones, países con enormes capacidades computacionales y aquellos que carecen de ellas, o ecosistemas cerrados frente a comunidades abiertas. Aquí aparece una paradoja que debería formar parte de nuestras aulas.

Regular estrictamente determinados sistemas puede reducir riesgos, pero también puede elevar las barreras de entrada y reforzar a las grandes corporaciones. Mantener modelos cerrados puede facilitar ciertos controles, pero también concentra conocimiento y capacidad tecnológica. Los modelos abiertos pueden democratizar el acceso y la investigación, aunque facilitan determinados usos maliciosos. Y la ausencia de regulación puede favorecer la innovación, pero deja decisiones que afectan al conjunto de la sociedad fundamentalmente en manos privadas. No existen, por tanto, respuestas simples.

La alfabetización en IA debe incorporar la gobernanza

Aquí aparece, probablemente, uno de los mayores desafíos para la educación. Estamos enseñando a nuestros estudiantes qué es la IA, cómo funciona un modelo generativo, cómo verificar una respuesta o cómo construir un prompt. Todo ello es necesario, pero insuficiente. La alfabetización en IA del futuro deberá incorporar al menos cuatro capacidades: comprender, cuestionar, evaluar y participar. Comprender cómo funcionan estos sistemas y cuáles son sus limitaciones. Cuestionar quién los diseña, con qué datos y bajo qué intereses. Evaluar sus impactos sobre derechos, democracia, empleo, educación y desigualdad. Y participar en las conversaciones sociales y políticas que determinarán cómo queremos gobernarlos. Porque la gran pregunta que empieza a emerger ya no es exclusivamente técnica: “¿Cómo construimos una IA segura?”.

Es una pregunta política, ética e institucional mucho más compleja: ¿quién determina que un sistema sea suficientemente seguro, mediante qué evidencias, ¿quién verifica esas evidencias y quién responde cuando algo sale mal? Ese cambio resulta fundamental. Durante años hemos hablado de principios de IA responsable: transparencia, equidad, privacidad, supervisión humana y rendición de cuentas. El siguiente paso consiste en transformar esos principios en mecanismos verificables de responsabilidad: evaluaciones independientes, trazabilidad, reporte de incidentes, supervisión efectiva y posibilidades reales de reparación. La educación tiene una responsabilidad decisiva en esta transición. No necesitamos formar únicamente usuarios competentes en tecnologías emergentes. Necesitamos formar ciudadanos capaces de intervenir críticamente en las decisiones sobre la IA. Porque quizás la pregunta educativa más importante de los próximos años no será cuánto saben nuestros estudiantes utilizar la IA, sino cuánto comprenden el poder que existe detrás de ella y su propia capacidad para cuestionarlo y gobernarlo.

Fuente: https://exitoeducativo.net/firmas-expertos-en-educacion/la-inteligencia-artificial-avanza-mas-rapido-que-nuestra-capacidad-para-gobernarla