Un servicio público de IA pasa de la promesa a la prueba de fuego
Corea del Sur se prepara para ofrecer acceso gratuito a la inteligencia artificial a toda la ciudadanía, con chatbots y agentes de IA al alcance de personas que podrían utilizarlos para tareas escolares, atención médica, servicios públicos y decisiones cotidianas. La iniciativa, llamada «IA para todos», busca extender ampliamente esta tecnología y ayudar al país a competir con Estados Unidos y China. También pone sobre la mesa una pregunta difícil: ¿pueden las medidas de protección avanzar al ritmo de la IA cuando esta se convierte en parte habitual de la vida pública?
Contenido
- Un servicio público de IA pasa de la promesa a la prueba de fuego
- ¿Por qué advierten sobre esta tecnología líderes de la IA?
- ¿Qué medidas de protección está aplicando Seúl?
- El empleo y el uso abusivo de deepfakes ya forman parte del debate
- Las escuelas afrontan una prueba distinta sobre el valor de la IA
- ¿Puede el acceso universal generar confianza pública?
- Puntos clave
El Gobierno del presidente Lee Jae Myung prevé comenzar con un servicio beta y luego evaluar si convierte la prueba en un servicio público permanente financiado con fondos públicos a partir del próximo año. El servicio propuesto conectaría a las personas con herramientas de IA de propósito general desarrolladas por tres consorcios nacionales encabezados por SK Telecom, KT y Kakao. El Gobierno ha prestado a los grupos cientos de unidades de procesamiento gráfico Nvidia B200, chips especializados que se utilizan para entrenar y ejecutar sistemas de IA exigentes.
Las autoridades prevén que, con el tiempo, intermediarios de IA ayuden a las personas a reservar citas médicas, buscar vivienda y solicitar orientación fiscal a través de servicios conectados con el Gobierno. Esa posibilidad podría facilitar el uso de los sistemas públicos, especialmente para quienes tienen dificultades con formularios complejos o largas esperas. También implica que los errores, las fallas de privacidad o las recomendaciones sesgadas podrían afectar a personas que necesitan servicios esenciales.
El Gobierno ha asignado 250.000 millones de wones para la puesta en marcha hasta 2027, además de un presupuesto de 10 billones de wones para IA en el ejercicio fiscal actual. La magnitud de la inversión refleja una estrategia nacional para desarrollar la capacidad en IA y ampliar el acceso, en lugar de limitarlo a quienes pueden pagar suscripciones privadas. La prueba permitirá evaluar si el acceso gratuito se traduce en una infraestructura pública útil y si la ciudadanía puede confiar en los sistemas que gestionan su información y sus consultas.
¿Por qué advierten sobre esta tecnología líderes de la IA?
Los planes de Corea del Sur llegan en un momento en que figuras destacadas de la industria de la IA advierten que el rápido desarrollo de esta tecnología conlleva riesgos graves. Dario Amodei, director ejecutivo de Anthropic, ha pedido a la industria que avance más despacio. Un exempleado de Anthropic que también había trabajado en OpenAI dijo, tras dejar la empresa, que estaba «realmente asustado» ante la posibilidad de que un desarrollo sin controles significara que «todos podríamos morir en un futuro inmediato». El informático Geoffrey Hinton, ganador del Premio Nobel y conocido a menudo como el «padrino de la IA», también ha advertido que los sistemas avanzados podrían representar un peligro existencial si escaparan al control humano.
Esas advertencias aluden a riesgos que van desde las armas autónomas y los ciberataques ejecutados por máquinas hasta el desempleo masivo. Otros riesgos ya son más conocidos: imágenes y videos falsos convincentes, decisiones automatizadas discriminatorias y personas que dependen de sistemas que ofrecen respuestas seguras de sí mismas, pero inexactas. La expansión de un servicio público no crea todos estos peligros, pero puede aumentar la exposición al facilitar el uso de la IA a gran escala.
Los sistemas de IA de propósito general generan respuestas al identificar patrones en los datos, en lugar de comprender el mundo en el sentido humano. Pueden ser útiles para redactar, resumir y navegar por la información, pero también pueden presentar falsedades como si fueran hechos. En ámbitos gubernamentales o relacionados con la salud, las personas necesitan una forma clara de verificar las respuestas y contactar a alguien con autoridad para corregirlas.
¿Qué medidas de protección está aplicando Seúl?
Corea del Sur se apoya en su Ley Básica de IA, que entró en vigor en enero, para establecer reglas sobre el uso cada vez más extendido de esta tecnología. El marco exige supervisión humana, evaluaciones de impacto e identificación clara del contenido sintético. Estas medidas buscan facilitar la identificación del material generado por IA y exigir a las organizaciones que examinen los posibles daños antes de implementar sistemas.
Un instituto de seguridad de la IA financiado por el Estado también tiene el mandato de evaluar los riesgos y actuar como organismo de supervisión técnica. Su labor será tan importante como las normas formales: deberá evaluar si los sistemas funcionan de manera fiable, si se protegen los datos sensibles y si las personas pueden impugnar decisiones importantes. Una evaluación de impacto solo resulta útil si examina los efectos en la vida real y lleva a introducir cambios cuando surgen problemas.
La conexión prevista con los servicios públicos hace que la rendición de cuentas sea especialmente importante. Si un asistente de IA ofrece información fiscal incorrecta o gestiona mal una solicitud de cita médica, las personas deben saber qué organismo es responsable y cómo obtener ayuda. El sistema no debe convertirse en una barrera entre la ciudadanía y los funcionarios que toman decisiones. La revisión humana es más eficaz cuando resulta accesible, oportuna y permite anular una recomendación automatizada.
El acceso gratuito tampoco significa que el servicio no tenga costos. Las entidades públicas tendrán que pagar por la capacidad de cómputo, la seguridad, el mantenimiento y la evaluación, y decidir cuánta información personal debe conservar el servicio. La inversión del Gobierno en equipos informáticos y programas es solo una parte de un servicio público duradero; la supervisión y el apoyo requerirán recursos continuos.
El empleo y el uso abusivo de deepfakes ya forman parte del debate
Algunas de las preocupaciones de Corea del Sur se basan en daños que ya se están produciendo. El Banco de Corea informó que el número de personas ocupadas de entre 15 y 29 años cayó en 285.000 entre junio de 2022 y junio de este año. Según sus estimaciones, el 94 % de la caída se produjo en sectores muy expuestos a la automatización. Las cifras apuntan a un importante solapamiento entre el empleo juvenil y los cambios tecnológicos, pero no demuestran que la IA haya sido la única causa del descenso. Las condiciones económicas y otros cambios en la contratación también pueden influir en el empleo.
La automatización puede sustituir tareas concretas sin eliminar una ocupación entera. Aun así, esa distinción ofrece poco consuelo a quienes ven automatizadas sus tareas iniciales o cuyos empleadores reducen la contratación. Los trabajadores jóvenes podrían estar especialmente expuestos si las tareas administrativas o de atención rutinarias han sido tradicionalmente una vía de acceso al empleo. A medida que se extienda el uso de la IA, los responsables de formular políticas deberán seguir de cerca la calidad del empleo y las tendencias de contratación, no solo las cifras generales de ocupación.
Para muchos surcoreanos, el temor más inmediato es el uso delictivo de la tecnología, en especial la creación de deepfakes de contenido sexual abusivo. El caso Nth Room, un escándalo de explotación sexual en línea de 2020, y otros casos posteriores contribuyeron a impulsar leyes más estrictas contra los deepfakes en 2024. Sin embargo, la policía registró 1.553 delitos relacionados con deepfakes el año pasado, según cifras presentadas en un foro reciente de Amnistía Internacional Corea.
Won Eun-ji, directora del grupo de investigación de delitos sexuales digitales Team Flame, ha pasado gran parte de este año entrando en unos 50 grupos de chat de Telegram junto con el medio de investigación Newstapa. Ha documentado cómo las herramientas de IA han ampliado el grupo de autores anónimos y reducido la edad de las víctimas. Las herramientas para generar imágenes y reemplazar rostros pueden facilitar la creación de material abusivo, mientras que los espacios en línea cifrados o anónimos pueden dificultar las investigaciones y la exigencia de responsabilidades.
El derecho penal es una parte de la respuesta, pero también son importantes la prevención y el apoyo. Las víctimas necesitan que las imágenes se retiren rápidamente, ayuda práctica para denunciar los abusos y protección frente a una mayor difusión. A medida que las herramientas de IA estén más disponibles, las políticas de acceso público tendrán que considerar la posibilidad de que estos sistemas se utilicen para crear o distribuir material dañino, aunque su finalidad prevista sea legítima.
Las escuelas afrontan una prueba distinta sobre el valor de la IA
La educación se ha convertido en otro foco de fricción. El año pasado, docentes protestaron contra el efímero plan del Gobierno de gastar 1,2 billones de wones en libros de texto con IA. Sus preocupaciones no se limitaban a si el programa funcionaba. También cuestionaban qué pierden los estudiantes cuando un sistema les da una respuesta antes de que hayan intentado resolver un problema.
Song Keun-sang, docente de quinto grado en la provincia de Chungcheong del Sur que participó en la protesta, dijo que la IA «simplemente te da las respuestas» y que «no tiene mucho valor educativo». Su crítica apunta a una distinción fundamental en la educación: completar una tarea no es lo mismo que aprender a hacerla. Una herramienta que explique una idea difícil o adapte los ejercicios a un estudiante puede ser útil. Una que evite la lectura, el razonamiento o la escritura puede debilitar esas habilidades.
La preocupación por el descenso de los resultados de lectura añade urgencia al debate, aunque no debe considerarse una prueba de que la IA haya causado cambios en el rendimiento de los estudiantes. Las escuelas necesitan pruebas sobre los efectos de herramientas concretas en la comprensión, la atención y el trabajo independiente. Los docentes también deben participar en las decisiones sobre cuándo la IA apoya la enseñanza y cuándo conviene excluirla del proceso de aprendizaje.
Las reglas para las aulas pueden diferir de las aplicables a los chatbots de uso general. Los estudiantes necesitan protecciones adecuadas a su edad, límites claros a la recopilación de datos y tareas que evalúen su propia comprensión. La IA puede ayudar a un docente a preparar las clases o dar a un estudiante otra explicación, pero no puede sustituir la relación educativa ni evaluar de manera fiable las necesidades de cada alumno.
¿Puede el acceso universal generar confianza pública?
«IA para todos» es un ambicioso intento de tratar el acceso a la IA como infraestructura pública. El modelo podría reducir una brecha por la que las herramientas avanzadas están disponibles principalmente para las personas adineradas y las grandes empresas. Un asistente fiable podría ayudar a encontrar información, completar trámites rutinarios o acceder a servicios difíciles de utilizar. Esos beneficios dependen de la calidad de las herramientas y de que las personas puedan obtener una respuesta de alguien cuando el sistema falle.
El acceso universal también cambia las consecuencias de las decisiones de diseño. Una falla en un chatbot privado afecta a quienes lo utilizan; una falla en un servicio público puede alcanzar a una parte mucho mayor de la población. Si un sistema está conectado a registros públicos o a los procesos de una entidad, las brechas de seguridad y los resultados inexactos podrían tener consecuencias que vayan más allá de una sola conversación. Límites estrictos a la recopilación de datos, pruebas independientes, registros claros del rendimiento del sistema y vías para presentar apelaciones ayudarán a determinar si el servicio genera confianza.
Corea del Sur cuenta con un sector tecnológico sólido y los recursos necesarios para llevar a cabo una prueba importante. Su principal desafío es conseguir que el servicio rinda cuentas ante la ciudadanía, además de ser técnicamente capaz. Eso implica explicar qué datos recopilan los sistemas, determinar quién responde por los errores y publicar suficiente información para permitir el escrutinio externo. También significa medir si el servicio ayuda a las personas, en lugar de tratar el número de usuarios o de funciones disponibles como prueba de éxito.
La puesta en marcha pondrá a prueba si la inversión pública puede ampliar el acceso y, al mismo tiempo, preservar el criterio humano en ámbitos donde los errores tienen costos reales. Las leyes de Corea del Sur y su instituto de seguridad ofrecen un marco, pero su utilidad se juzgará por su aplicación práctica, a medida que la IA llegue a las aulas, los lugares de trabajo y las oficinas gubernamentales.
Puntos clave
- Corea del Sur planea una prueba gratuita de IA liderada por consorcios vinculados a SK Telecom, KT y Kakao.
- El Gobierno espera convertir la IA en un servicio público permanente conectado con servicios como la reserva de citas y la orientación fiscal.
- La Ley Básica de IA exige supervisión humana, evaluaciones de impacto e identificación del contenido sintético.
- Entre las preocupaciones sobre el empleo figura la caída del número de personas ocupadas de entre 15 y 29 años, concentrada en sectores expuestos a la automatización.
- La policía registró 1.553 delitos relacionados con deepfakes el año pasado, en medio de la preocupación persistente por los abusos sexuales facilitados por herramientas de IA.
- Los docentes han cuestionado los libros de texto con IA y sostienen que las respuestas instantáneas pueden interferir en el aprendizaje.
