Demis Hassabis y su Visión para la Inteligencia Artificial
Demis Hassabis, premio Nobel y consejero delegado de Google DeepMind, ha propuesto recientemente que la inteligencia artificial general (AGI) podría estar a solo unos pocos años de distancia. Según Hassabis, estamos en las estribaciones de la singularidad. Esta predicción, aunque no es nueva, viene acompañada de una apuesta audaz: la necesidad de un organismo regulador liderado por Estados Unidos para evaluar modelos de IA avanzados antes de su lanzamiento al mercado.
Lo destacable es que quien pide esta regulación es uno de los líderes en la carrera por la innovación en inteligencia artificial. Hassabis fue un niño prodigio del ajedrez, alcanzando el nivel de maestro a los 13 años. A los 17, codiseñó el videojuego Theme Park, antes de doctorarse en neurociencia cognitiva. Fundó DeepMind en 2010, la cual fue adquirida posteriormente por Google. Desde DeepMind se desarrollaron revolucionarios sistemas como AlphaGo y AlphaFold, este último le valió el Premio Nobel de Química en 2024 junto con John Jumper.
En su manifiesto, Hassabis compara la llegada de la AGI con descubrimientos fundamentales para la humanidad, como la electricidad o el fuego. Resalta que la AGI promete una aceleración sin precedentes en diversos campos: desde el descubrimiento de fármacos y energías limpias, hasta la creación de materiales avanzados. La magnitud del impacto de esta tecnología podría ser diez veces la de la Revolución Industrial.
Hassabis también reconoce los desafíos asociados con este avance. Destaca la existencia de una intensa carrera comercial y geopolítica, intensificada por las dinámicas competitivas que, aunque propulsan avances rápidos, también superan nuestra capacidad de comprender la tecnología. En sus propias palabras, nadie sabe con certeza lo que sucederá a continuación.
Sobre los riesgos, Hassabis menciona problemas actuales de ciberseguridad, como lo visto con modelos estadounidenses como Mythos de Anthropic. Advierte sobre posibles amenazas nucleares y biológicas, subrayando la necesidad de salvaguardias robustas.
Propone la creación de un organismo de estándares inspirado en la FINRA, compuesto por expertos técnicos y representantes del código abierto. Este organismo designaría a los laboratorios que superen ciertos umbrales como «Frontier Labs», un reconocimiento de prestigio. Los modelos se someterían a examen antes de su lanzamiento, verificando ciberseguridad, potenciales amenazas biológicas, y la integridad de los sistemas.
Curiosamente, su propuesta también incluye la posibilidad de coordinar una desaceleración del desarrollo de la IA si la situación lo requiere. Esta autorregulación sería financiada principalmente por los laboratorios que supervisa.
Finalmente, Hassabis concluye con un llamado a la acción conjunta de toda la sociedad para definir el futuro de la AGI, subrayando que este desafío no debe dejarse solo en manos de los tecnólogos. Enfatiza que debemos aprovechar la ventana de oportunidad actual para dar forma a la tecnología en beneficio de toda la humanidad.