Transcripción completa del vídeo:
Ahora la IA es una gran cosa, porque la IA resolverá todos los problemas que tenemos hoy. Resolverá el empleo, resolverá la enfermedad, resolverá la pobreza, pero también creará nuevos problemas. El problema de las noticias falsas va a ser un millón de veces peor. Los ciberataques serán mucho más extremos. Tendremos armas con IA totalmente automatizadas.
Creo que la IA tiene el potencial de crear dictaduras infinitamente estables.
Esta mañana, una advertencia sobre el poder de la inteligencia artificial: más de 1.300 líderes de la industria tecnológica, investigadores y otros ahora piden una pausa en el desarrollo de inteligencia artificial para considerar los riesgos. Jugar a ser Dios: los científicos han sido acusados de jugar a ser Dios durante un tiempo, pero hay un sentido real en el que estamos creando algo muy diferente a todo lo que hemos creado hasta ahora. Sí, quiero decir, definitivamente seremos capaces de crear seres completamente autónomos y con objetivos propios.
Y será muy importante, especialmente porque estos seres se vuelven mucho más inteligentes que los humanos, que las metas de estos seres estén alineadas con nuestras metas. ¿Qué me inspira? Me gusta pensar en los fundamentos, lo básico. ¿Qué no pueden hacer nuestros sistemas y que los humanos definitivamente sí hacen? Casi lo abordamos filosóficamente. Preguntas como ¿qué es aprender? ¿Qué es la experiencia? ¿Qué es pensar? ¿Cómo trabaja el cerebro? Siento que la tecnología es una fuerza de la naturaleza. Siento que hay mucha similitud entre la tecnología y la evolución biológica. Es muy fácil entender cómo funciona la evolución biológica: tienes mutaciones, tienes selección natural. Te quedas con los buenos, los que sobreviven, y sólo a través de este proceso tendrán una enorme complejidad en sus organismos. No podemos entender cómo funciona el cuerpo humano porque entendemos la evolución, pero entendemos el proceso más o menos. Y creo que el aprendizaje automático se encuentra en un estado similar en este momento. Especialmente el aprendizaje profundo, tenemos una regla muy simple que toma la información de los datos y la pone en el modelo y seguimos repitiendo este proceso. Y como resultado de este proceso, la complejidad de los datos se transfiere a la complejidad del modelo.
Entonces, el modelo resultante es realmente complejo y realmente no sabemos exactamente cómo funciona; debes investigar, pero el algoritmo que lo hizo es muy simple. ChatGPT, tal vez hayas oído hablar de él. Si no lo has hecho, prepárate. Lo describe como las primeras gotas de lluvia antes de un aguacero. Es algo de lo que debemos ser muy conscientes, porque estoy de acuerdo en que es un momento decisivo. Bueno, ChatGPT está siendo anunciado como un punto de inflexión y, en muchos sentidos, lo es: su último triunfo supera a la gente. Un estudio reciente de investigación de Microsoft concluye que GPT4 es un sistema de inteligencia general artificial temprano, pero aún incompleto. Inteligencia general artificial. AGI, un sistema informático que puede realizar cualquier trabajo o tarea que un humano hace, pero sólo mejor. Existe cierta probabilidad de que el AGI se produzca muy pronto.
También existe cierta probabilidad de que lleve mucho más tiempo. Pero mi posición es que la probabilidad de que AGI pueda ocurrir pronto es lo suficientemente alta como para tomarlo en serio. Y va a ser muy importante para que estos sistemas capaces y muy inteligentes estén alineados y actúen en nuestro mejor interés.
Los primeros AGI básicamente serán centros de datos muy, muy grandes, equipados con procesadores de redes neuronales especializados que trabajarán en paralelo. Serán paquetes compactos, calientes y que consumirán mucha energía, consumiendo energía equivalente a 10 millones de hogares. Vas a ver sistemas dramáticamente más inteligentes y creo que es muy probable que esos sistemas tengan un impacto completamente astronómico en la sociedad. ¿Se beneficiarán realmente los humanos? ¿Y quién se beneficiará y quién no?
Las creencias y deseos de los primeros AGI serán sumamente importantes y por eso es importante programarlos correctamente. Creo que si esto no se hace, entonces la naturaleza de la evolución, de la selección natural, favorecerá que esos sistemas prioricen su propia supervivencia por encima de todo. No es que vayan a odiar activamente a los humanos y querer hacerles daño, pero van a ser demasiado poderosos y creo que una buena analogía sería la forma en que los humanos tratan a los animales. No es que odiemos a los animales, creo que los humanos aman a los animales y les tienen mucho cariño, pero cuando llega el momento de construir una carretera entre dos ciudades, no estamos pidiendo permiso a los animales. Simplemente lo hacemos porque es importante para nosotros y creo que por defecto ese es el tipo de relación que será entre nosotros y AGI, los cuales son verdaderamente autónomos y operan por sí mismos.
Muchos expertos en aprendizaje automático, personas que tienen mucho conocimiento y mucha experiencia, tienen mucho escepticismo sobre AGI. Sobre cuándo podría suceder y sobre si podría suceder. En este momento esto es algo que simplemente no mucha gente se ha dado cuenta todavía. La velocidad de las computadoras para redes neuronales, para IA, va a ser quizás 100.000 veces más rápida en un pequeño número de años. Si tienes una dinámica de carrera armamentista entre varios equipos que intentan construir el AGI primero, tendrán menos tiempo para asegurarse de que el AGI que construirán se preocupará profundamente por los humanos. Porque como me lo imagino es que hay una avalancha, como si hubiera una avalancha de desarrollo de AGI. Imagínalo, esta enorme fuerza imparable. Y creo que es bastante probable que toda la superficie de la Tierra esté cubierta de paneles solares y centros de datos.
Dado este tipo de preocupaciones, será importante que AGI de alguna manera construya una cooperación entre múltiples países. De todos modos, el futuro será bueno para la IA. Sería bueno que también fuera bueno para los humanos.