Muchísimas gracias a quienes me antecedieron en la palabra, a todos los presentes, a quienes hacen posible este encuentro. Voy a hacer un esfuerzo por no entrar en discusiones contingentes y tratar de aprovechar este momento para reflexionar sobre desafíos del presente, vinculados a dos temas que están muy cruzados y que son fundamentales para el desarrollo del país. Que tienen que ver con las nuevas tecnologías y el aprendizaje, en particular la inteligencia artificial. Inevitablemente, me voy a referir un poquito a coyuntura en una parte, para dialogar constructivamente con el presidente electo. Pero quiero comenzar estar afirmando que estamos –como bien decía Guido Girardi– en un momento muy excepcional, que nos cuesta quizás valorar, que nos cuesta dimensionar.
A lo largo de la historia, la humanidad ha creado permanentemente herramientas que ampliaron su capacidad de relacionarse con el mundo y de transformarlo. Pero son pocas las veces que ha desatado fuerzas que han llegado a redefinir quiénes somos, qué significa ser humano. Creo que es un consenso que la inteligencia artificial pertenece a esta categoría, que es muy excepcional, porque no estamos ante una innovación más. Y es impresionante la velocidad con la que se ha desatado. Estamos ante una infraestructura de poder que comienza a orientar decisiones, que anticipa comportamientos, que reorganiza silenciosamente, pero de manera muy decisiva la relación entre los individuos y el Estado, entre los individuos y el mercado.
Por eso la pregunta central de nuestro tiempo no es técnica ni económica, es política y filosófica. Siempre recuerdo cuando pienso en estas cosas, cuando era chico en el colegio leí toda la saga de La Fundación de (Isaac) Asimov y pensaba ahora, a propósito de cómo la inteligencia artificial anticipa comportamientos, en la psicohistoria y cómo la psicohistoria se pensaba en ese momento como una cuestión sólo de ciencia ficción y hoy día está siendo realidad. Y el problema, y la pregunta que tenemos que hacernos, es quién gobierna cuando las decisiones se automatizan. ¿Seguimos siendo nosotros, los seres humanos? Acá hay una respuesta que es básica, la inteligencia artificial no sale de la nada.
Y, por lo tanto, la inteligencia artificial no es neutral, puede terminar siendo autogenerativa, pero su origen es humano. Por lo tanto, los sistemas que hoy día alimentan la inteligencia artificial son nuestros datos, replican nuestras jerarquías y van amplificando nuestras prioridades. Por eso es tan importante algo que creo que no se ha dimensionado lo suficiente en Chile que, desde el Ministerio de Ciencia, en conjunto con Brasil, hayamos impulsado LATAM GPT, que es una inteligencia artificial, un lenguaje hecho desde Sudamérica porque lo que hace la inteligencia artificial es reproducir los sesgos que existen en quienes la generan. Allí donde existe desigualdad, donde existen desigualdades de diferente tipo, esta tecnología no las corrige, las acelera. Y allí donde no existen límites que sean claros, la verdad es que la inteligencia artificial no se detiene por prudencia, sigue avanzando por inercia.
Entonces, vivimos en un momento en que la eficacia amenaza con convertirse en el principio rector de todas las cosas. Partiendo por la política, donde al cuestionarse la efectividad, por ejemplo, del derecho internacional, se dice: “Bueno, hagamos lo que sea más efectivo”. ¿Y qué es lo que es más efectivo siempre? La fuerza. Y, por lo tanto, ¿quién controla?
¿quién decide? Como la pregunta que se hacían el 68, en Francia, ¿quién dio la orden? Esa pregunta vuelve a estar plenamente vigente hoy día. ¿Quién dio la orden? ¿dónde nace la legitimidad de esa orden?
Eso hoy día está muy presente en el debate respecto a política internacional sobre las áreas de influencia, sobre quién tiene la hegemonía o no, pero también es una pregunta que debemos hacernos respecto a nuestra cotidianidad y la tecnología. Si delegamos decisiones en nombre de la rapidez sin detenernos a preguntarnos qué estamos perdiendo en el proceso, creo que tenemos un problema. Porque cada decisión automatizada lo que termina haciendo es reducir el espacio de la deliberación humana. Y eso se vuelve, se va volviendo cada vez más opaco y limita la rendición de cuentas, que es el sentido más esencial de la democracia. La democracia es la delegación, la soberanía recae en el pueblo y el pueblo a través de esa soberanía la delega en sus representantes, pero sin perder su esencia y el compromiso es que esos representantes rindan cuenta.
Una de las posibles amenazas del cambio tecnológico que estamos viviendo es que se pierda ese proceso de rendición de cuentas. Por eso quiero afirmar que no toda delegación es necesariamente progreso. No toda consideración de eficacia es necesariamente progreso, porque algunas delegaciones pueden terminar siendo renuncias morales. Renuncias morales y cuando me refiero a morales no estoy hablando de superioridad moral de un sector u otro, sino de la disputa moral que se tiene que dar en una sociedad. Ahora, sería deshonesto, yo no soy de los catastrofistas y, por lo tanto, este discurso no tiene como fin sólo advertir los peligros de la inteligencia artificial y que eso nos aleje de ella.
Yo también –tal como el presidente electo– considero que la inteligencia artificial y las nuevas tecnologías no sólo son una tremenda oportunidad de futuro, sino que lo están haciendo hoy día. Piensen que hoy día –lo mencionaba Guido– estamos utilizando inteligencia artificial para enfrentar el crimen organizado. Estamos logrando recuperar más autos que nunca, autos robados y, por lo tanto, eso incide en la comisión misma del delito gracias a la inteligencia artificial que hemos utilizado con Carabineros y la PDI. Entonces, yo no niego que ciertos sistemas algorítmicos han reducido arbitrariedades humanas y han colaborado, de manera muy significativa, en decisiones de política pública que tenemos que tomar día a día. El problema no es que se tomen decisiones utilizando la inteligencia artificial, sino que esas decisiones se tomen sin explicitar qué principios las orientan.
Por eso esta es una discusión que es profundamente filosófica y de sentido. Y este dilema se manifiesta con particular fuerza en un ámbito que define nuestro futuro permanentemente, que es la educación y el aprendizaje. Estaba leyendo hace poco, tratando de involucrarme más en estos temas, porque en educación hemos discutido durante mucho tiempo respecto a estructura institucional y financiamiento, pero creo que no hemos discutido lo suficiente y tomado conclusiones a partir de estas discusiones respecto de los modos de aprendizaje. Se sigue enseñando básicamente como se enseñaba a principios del siglo XX. Se van incorporando nuevas tecnologías, pero la forma de aprendizaje parecemos seguirla con algún grado de inercia.
Y hoy la educación es un lugar por donde todos pasamos. Por lo tanto, la educación es uno de los espacios, una de las esferas de la vida en sociedad en que podemos reconocernos como iguales. Las nuevas tecnologías están ingresando masivamente a las escuelas y eso no se va a detener porque pasemos una ley que prohíbe los celulares en la sala de clase. Que yo creo es una decisión correcta, pero no quita la discusión y la pregunta sobre cómo utilizamos las tecnologías en el proceso de aprendizaje. ¿Qué significa aprender en un momento en que todas las respuestas están permanentemente disponibles o parecieran estar permanentemente disponibles, con una velocidad instantánea?
Soy de la generación –y eso que debo ser de los más jóvenes acá– que no tenía internet en el celular cuando salí de la universidad. Cuando egresé de la universidad estaba empezando a haber internet en los celulares. En el colegio todavía íbamos permanentemente a bibliotecas y para poder acceder a información leíamos y, no solamente leíamos, sino que revisábamos enciclopedias. Y evidentemente el conocimiento enciclopédico y la repetición de conocimiento no es necesariamente aprendizaje. Pero el problema de cuando la información está permanentemente disponible es que dejamos de hacernos preguntas.
Porque aprender no es y nunca ha sido solamente el acceso a la información. Aprender implica esfuerzo, implica error, implica espera, paciencia, frustración y, también, descubrimiento. A mí una de las cosas que más me impresiona de las generaciones más jóvenes es –no sé si la palabra es “impresiona”, pero donde noto una mayor diferencia– en la paciencia. Si ya nosotros éramos impetuosos e impacientes como generación, eso se ha radicalizado muchísimo en las dimensiones cotidianas de la vida. Entonces, si es que confundimos el aprendizaje con la disponibilidad de las respuestas, corremos el riesgo de eliminar el pensamiento autónomo y el pensamiento autónomo es necesario para la democracia.
Y en eso cuando pensamos en una escuela o en un sistema de aprendizaje, no solamente en una escuela para niños y adolescentes, sino en nuestros propios sistemas de aprendizaje, porque estamos permanentemente aprendiendo, que delegamos excesivamente en sistemas automatizados, si pensamos que eso puede volverse más eficiente, sí, es cierto, puede volverse más eficiente, pero también se vuelve más frágil. Cuando los estudiantes, y somos todos de alguna manera estudiantes de la vida y no lo digo en un sentido cliché, sino que realmente estamos permanentemente aprendiendo, cuando dejamos de preguntarnos, de equivocarnos, de argumentar, de justificar nuestras respuestas, no estamos formando una ciudadanía crítica, sino usuarios dependientes de decisiones que otros toman. Entonces, la pregunta educativa que tenemos que hacernos no es sólo si los estudiantes van a usar inteligencia artificial. Esa es una pregunta que llega totalmente atrasada. Los estudiantes ya están utilizando la inteligencia artificial.
La pregunta que tenemos que hacernos es qué tipo de personas estamos formando, desde una perspectiva cívica, en el sentido del encuentro de iguales en los espacios públicos. No se soluciona, insisto esto, prohibiendo los celulares, si bien creo que es una medida correcta, creo que tenemos que problematizar aún más la discusión respecto al tema de las pantallas. En definitiva, no toda ayuda cognitiva que nos preste la tecnología es necesariamente emancipadora. Porque cuando la tecnología sustituye al esfuerzo que permite que el juicio se forme, no acelera el aprendizaje, sino lo que hace es cancelarlo. Mi reflexión, y lo que quiero compartirles a ustedes, a propósito del debate sobre educación, es que los diferentes procesos de aprendizaje, en particular en la escuela, en las universidades, no pueden convertirse en espacios donde solamente se optimizan respuestas, pero se va empobreciendo el pensamiento.
Hay una discusión y se planteaba en el Congreso Futuro de los Jóvenes –porque el Congreso Futuro también hace una versión para jóvenes– respecto del término “brainrot”. Cuando uno dice “brainrot” a los jóvenes, la verdad es que no piensan en podredumbre cerebral, sino que piensan en los monitos animados italianos. No sé si los conocen, los monitos animados que hablan en italiano, que se llaman “Ballerina Cappuccina”, “Cocodrilo Bombardino”. Pero el “brainrot” es un fenómeno que está estudiado científicamente y que se va produciendo. Entonces, miren esa imagen del Congreso Futuro.
Existe el riesgo de que, en lugar de seguir avanzando, empecemos a retroceder respecto a nuestras propias capacidades cognitivas y formación de juicio crítico. La amenaza no es que las máquinas piensen, no son las inteligencias autogenerativas, la amenaza es que nosotros dejemos de pensar individualmente y, después, como sociedad. Esas son las famosas distopías de la ciencia ficción de Fahrenheit 451 y 1984, Orwell y Bradbury, y tantos otros. Pero hoy día ya no son distopías. “Black Mirror” se va quedando corto así, con una velocidad infartante.
Y por eso insisto que este no es solamente un problema educativo, es un problema democrático. Porque la democracia se basa en ciudadanos que tienen que ser capaces de pensar por sí mismos y esto es importante: en pensar por sí mismos y también entender el argumento del otro y ojalá, ojalá tomar la mejor versión posible del argumento del otro. Y eso en política no nos pasa mucho. Entonces, voy a aprovechar y voy a tomar la mejor versión posible de uno de los argumentos que daba el presidente electo, José Antonio Kast, y lo invito a que aprobemos el proyecto de Sala Cuna, que está en discusión de hace casi 20 años y que hoy día tenemos un consenso técnico con los equipos. Tenemos 4 semanas, porque si no vamos a retroceder mucho.
Aprovechemos, José Antonio, Presidente Electo, de llegar a un acuerdo al respecto y sacarlo adelante. Yo entiendo que en el FES hay muchas diferencias, seguramente vamos a tenerlas y mantenerlas. Pero creo que ahí podemos llegar a un consenso. Entonces, no pensemos siempre –y esto es un mensaje en particular para nosotros, quienes estamos en política– en la peor versión posible de lo que argumenta mi contraparte o quedarnos con la cuña que descontextualiza y que genera… Si yo me quedara con las cuñas del discurso de José Antonio Kast en ICARE, las que publicaron los medios, chuta, no podríamos conversar casi. Pero yo creo que el espíritu de lo que dice y lo que ha dicho acá es mucho más constructivo.
Entonces, prefiero en vez de quedarme solamente con las cuñas y, por eso le decía que nos juntáramos a conversar pronto, porque tenemos varias cosas que creo que vale la pena ser discutidas, hagamos ese esfuerzo. Y eso requiere, vuelvo al tema, pensamiento crítico, capacidad de discernir, valorar la diferencia, no sólo la automatización. Es importante que en sociedad seamos capaces de sostener los desacuerdos, de resistirnos y combatir la simplificación, de exigir permanentemente explicaciones al poder, aunque nos incomoden, especialmente cuando ese poder se presenta como neutral o como técnico, porque nunca lo es, nunca lo es. Ahora ¿cuál es el núcleo del desafío? El desafío es que la inteligencia artificial está presentando un desafío/oportunidad gigante a los procesos de aprendizaje y de los procesos de aprendizaje se deriva directamente a la democracia.
Mi conclusión es que ningún algoritmo puede sustituir la responsabilidad política. Ningún modelo estadístico va a poder reemplazar nunca el juicio ético tanto personal como colectivo. Y que además no es algo que se forme todos los días, sino que se construye sobre lo que hemos construido como humanidad. Por eso, desde mi perspectiva, al menos, –y lo digo muy explícitamente – es irresponsable o es muy criticable cuando el presidente Trump dice que su único límite es su propio juicio moral. Porque independiente de la opinión que tengamos de la moralidad del presidente Trump –cosa en lo que no me meto– el problema es que eso desconoce todo el acervo acumulado de la humanidad, los avances civilizatorios que hemos tenido como humanidad que hemos llevado al derecho internacional.
Y, nuevamente, vinculando todos estos temas, se sustituye esa deliberación racional colectiva por la eficacia. Entonces, el viejo adagio de “el fin no justifica los medios” o “los medios para alcanzar un fin deben ser nobles”, creo que vale la pena recalcarlo hoy día. No a propósito de una situación particular, si hay situaciones particulares que pueden generar debate, y bienvenido sea, sino en la discusión de principios más de fondo. El riesgo no es una inteligencia artificial hostil. Yo no tengo estos miedos, de la idea como que los robots se van a independizar y van a venir a dominarnos, sino más bien el que la humanidad renuncie a gobernar con principios, con valores, que confunda la complejidad con la inevitabilidad y que le otorgue a la tecnología una suerte de condición de destino inexorable.
¿Cómo nos va a juzgar el futuro a nuestra generación? No lo va a hacer por la sofisticación de nuestros modelos algorítmicos, no lo va a hacer por cuánta plata cotizaron en la Bolsa las big tech, no lo va a hacer por cuán rápido tomamos las decisiones. Nos va a juzgar por si fuimos capaces o no de establecer límites cuando aún podíamos hacerlo. Y con esto termino. Estimados y estimadas, hay valores que no permiten delegación, que no pueden ser delegables.
La dignidad humana, que está en la esencia de la construcción de todo sistema político, al que por lo menos en este espacio me imagino adherimos, no es algo que pueda ajustarse en parámetros algorítmicos. El progreso está muy determinado por la responsabilidad de seguir pensando críticamente y decir no, incluso cuando decir sí sea más rápido y más simple. Dudar, ese es el desafío de nuestra generación. Quienes estamos en política muchas veces cometemos el error de hablar con certezas muy categóricas. Y en esto parto por casa, digamos, no estoy diciendo: “Usted habla con certeza categórica”.
En política, en general, hablamos con certeza muy categórica y no dejamos espacio a las preguntas, a la duda o a incorporar la mejor versión posible del argumento del contrario, sin nunca renunciar a los principios. Pero la política tiene que ejercer ese pensamiento crítico. Abrirse a las preguntas. La política tiene que resolver, es cierto, en función de las urgencias de las personas, de sus condiciones materiales de vida, de la salud, de la seguridad, las pensiones, la vivienda, sin lugar a duda, pero también tiene que hacerse preguntas. Y creo que ese es el gran aporte del Congreso Futuro, que desde hace 15 años el Congreso Futuro viene vinculando a la política con la ciencia, con la filosofía, desde Chile para el mundo.
Y eso es un logro realmente destacable y por lo que les agradezco profundamente a quienes lo han hecho posible. Muchísimas gracias.