Stanford publicó recientemente su Índice de IA 2025, repleto de información sobre cómo está cambiando la IA. Para los CISO , es un buen indicador de la situación actual. Abarca lo que la tecnología puede hacer ahora, cómo están respondiendo los gobiernos y hacia dónde se dirige la opinión pública. Aquí te presentamos lo que vale la pena saber.
La IA está mejorando rápidamente y apareciendo en todas partes
Los nuevos modelos están obteniendo mejores resultados en pruebas de referencia rigurosas y abordando tareas complejas como la programación y las matemáticas con mayor éxito que el año pasado. Algunos agentes incluso superan a los humanos, al menos con limitaciones de tiempo. La generación de vídeo, la secuenciación de proteínas y el diagnóstico médico son áreas donde la IA avanza rápidamente.
Mientras tanto, la IA ya no es solo una herramienta de laboratorio. Está integrada en la vida cotidiana. En 2023, la FDA aprobó 223 dispositivos médicos impulsados por IA. Los robotaxis se utilizan habitualmente en ciudades de Estados Unidos y China. En el ámbito empresarial, el 78 % de las organizaciones informaron haber utilizado IA en 2024, frente al 55 % del año anterior.
La industria lidera el cambio, pero con riesgos crecientes
Casi el 90% de los modelos de IA destacados en 2024 provinieron de la industria, no del ámbito académico. Sin embargo, la comunidad investigadora sigue siendo la principal productora de artículos con alta citación. El entrenamiento de modelos está escalando rápidamente. El uso de recursos computacionales se duplica cada cinco meses. Si bien los costos están disminuyendo, las emisiones están aumentando. El entrenamiento de GPT-4 generó más de 5000 toneladas de carbono. El modelo más grande de Llama 3.1 generó casi 9000 toneladas.
Las herramientas también se están abaratando. El coste de ejecutar un modelo de nivel GPT-3.5 se redujo más de 280 veces en 18 meses. Los modelos de peso abierto están alcanzando a sus homólogos de código cerrado, reduciendo la diferencia de rendimiento a menos del 2 % en algunos benchmarks.
Los gobiernos están intensificando la supervisión y la inversión
La regulación se está poniendo al día. Las agencias estadounidenses emitieron 59 normas relacionadas con la IA en 2024, el doble que en 2023. Más de 75 países mencionaron la IA en su legislación el año pasado. La regulación estatal de los deepfakes en las elecciones también ha aumentado, con 24 estados de EE. UU. aprobando leyes hasta la fecha.
El gasto también está aumentando. Canadá prometió 2.400 millones de dólares para infraestructura de IA. China lanzó un fondo para chips de 47.500 millones de dólares. El «Proyecto Trascendencia» de Arabia Saudita, de 100.000 millones de dólares, busca impulsar el desarrollo de la IA. Estas medidas indican un cambio global: del discurso político al despliegue a gran escala.
Persisten las brechas de confianza y seguridad
La IA responsable sigue siendo desigual. Los incidentes de IA reportados aumentaron un 56 % el año pasado. Si bien las herramientas para medir la seguridad, la veracidad y el sesgo están mejorando, pocas organizaciones las utilizan de forma sistemática. Incluso los modelos entrenados para reducir el sesgo siguen mostrando patrones que favorecen a los hombres sobre las mujeres y refuerzan los estereotipos raciales.
La opinión pública está dividida. El optimismo crece en países como China e Indonesia, pero sigue siendo bajo en lugares como Estados Unidos, Canadá y los Países Bajos. La confianza en las empresas de IA también está disminuyendo, especialmente en lo que respecta a la privacidad y la equidad de los datos.
La educación se está expandiendo, pero de manera desigual
Dos tercios de los países ofrecen actualmente educación en informática desde preescolar hasta bachillerato, y la producción de títulos en informática está aumentando. Sin embargo, persisten las brechas de acceso, especialmente en regiones con escasez de infraestructura. En EE. UU., la mayoría del profesorado de informática quiere enseñar IA, pero no se siente preparado para hacerlo.
Fuente y redacción: helpnetsecurity.com
