Sigman, Mariano & Bilinkis, Santiago. Artificial. Barcelona. Penguin. Random House. 2023 (p 227)
1. La génesis de la inteligencia
MI6: Bletchley Park
Alan Turin & Cillwyn Knox. Su misión: salvar al mundo (p 13)
Marian Rejewski: determinar el contenido de los mensajes encriptados por la máquina Enigma. La insistencia vanidosa de los nazis de usar repetidamente la fórmula "Heial Hitler" fue un error garrafal (p 14)
El programa que ideó Turing para establecer la posición e los rotores de enigma fue una versión muy rudimentaria de una inteligencia artificial (IA)
Las cosas más sorprendentes de la vida emergen de reglas sencillas (p 15)
IA: emular y replicar la inteligencia humana (p 16)
Una gran parte de la fascinación que nos produce la inteligencia humana radica, precisamente, en no entenderla (p 17)
Concepto de paridad nuclear = Destrucción mutua asegurada (Ted Hall y Klaus Fuchs compartieron los avances nucleares con los soviéticos para equilibrar las fuerzas)
La búsqueda de la inteligencia a través de las redes neuronales no dejaba de ser una concepción antropocéntrica, pero implicaba un cambio rotundo (p 21)
1966, Joseph Wrinzembaun programó ELIZA. el primer bot conversacional de la historia.
Deep learning: Agregar cada vez más cantidad de capas intermedias.
Las redes neuronales cambiaron la forma de aprender de las máquinas: feedback. La red va aprendiendo la estructura precisa de conexiones que le permite resolver esta tarea. Las máquinas pueden hacer las cosas, pero no explicarnos como las hacen, y pasan a ser un enigma para nosotros (p 27)
Las máquinas por primera vez parecían listas para superarnos, incluso en la esfera más humana: la creatividad (p 31)
Un programa jugando contra sí mismo, genera un conocimiento exponencial (p 32)
2. La nueva era.
Se trata de encontrar patrones y atributos. Somos más previsibles de lo que suponemos. Detectar patrones que para la mayoría de nosotros son imperceptibles. (Explica el cas d'Agassi que va identificar les mue ques que feia Becker a l'hora de servir la pilota) (p 34)
La abundancia de datos.(p 36)
¿Por qué no poner 2 redes neuronales a competir entre sí para que aprendan de sus errores? Red generativa i red discriminadora (p 37)
Redes generativas adversiales (Generative Adversial Networks - GAN) (p 38)
Pensión del lenguaje está plagada de contexto (p 39)
Transformer: incorpora un algoritmo para decidir cuanto peso darle a diferentes palabras (p 40)
La red neuronal generativa, preentrenada y basada en transformers (GPT) (p 41)
LLM (Large Language Models): Redes neuronales basadas en transformers.entrenadas con enormes volúmenes de texto para producir lenguaje. (p 43)
Cuando una IA aprende a generar lenguaje, en cierta manera está aprendiendo a pensar... cuando en realidad el programa no tiene ni idea de lo que está diciendo. (p 44)
3- El punto de ll es un nuevo punto de partida.
La inteligencia también involucra aspectos emocionales y sociales o la relación misma con el cuerpo. Piaget dijo que la inteligencia es el arte de saber qué hacer cuando no sabemos qué hacer (p 47)
Inteligencia: Encontrar una solución a una situación compleja que no hemos vivido antes.
Étienne de la Boétie: "servidumbre voluntaria". Reflejo de la inteligencia de generaciones anteriores, expresada en forma de cultura. (p 49)
Nuestro cerebro es prácticamente igual al de nuestros antecesores de hace 10000 años. Lo que nos diferencia es una inteligencia cultivada y agregada en una historia educativa y cultural. La inteligencia es acumulativa. (p 50)
El juego y los sueños ponen a nuestra disposición escenarios que la vida no nos da la oportunidad de probar. (p 55)
Deep learning: emular el pensamiento inconsciente (p 56)
Pero este conglomerado de máquinas útiles y eficientes tienen una limitación, no son empáticas. (p 58)
4. El arte de conversar
Promt: la entrada de texto que proporcionamos como disparador. Importancia de SABER PREGUNTAR (p 68)
Uno de los puntos fuertes de la IA es su capacidad de establecer relaciones y conexiones entre perspectivas aparentemente distantes o inconexas. (p 69)
ChatGPT: No le supone más esfuerzo producir una idea genial que una superficial. No tiene "costo adicional por complejidad". (p 72)
La estructura del cerebro de las IA basadas en Transformers, entrenamiento antagónico y predicción de palabras condiciona estructuralmente sus virtudes y sus defectos.
Virtudes
- Su estructura basada en transformers, los LLM son particularmente efectivos en todo lo que esté relacionado en el lenguage y la atención.
- Traducción
- Buenas programadoras
Vicios
- Inventar con facilidad todo lo que no saben. A medida que le presentamos problemas matemáticos más complejos o enigmas lógicos menos conocidos, la probabilidad de que "alucine" es muy alta.(p 76)
- Solo tiene información actualizada hasta la fecha en que finalizó su entrenamiento.
ChatGPT Habilita una conversación con un ente que no nos juzga.(p 79) Un diálogo de este tipo puede tener también un efecto terapéutico.(soledad)
5- El punto justo
Ajedrez: Un equipo integrado por un buen jugador, con conocimiento y sentido común y una máquina que propone grandes ideas. Esta experiencia de trabajo en equipo con las máquinas sienta un precedente para todo el trabajo creativo.(p 84)
Razones para la resistencia
Argumentos morales o de valoración.
Los algoritmos pueden utilizarse para manipular. La clave es no prestar atención a lo que decimos, sino a lo que hacemos.(p 88)
Lo particular es más efectivo que lo general. Aclarar ideas a través de la conversación. Lo fundamental no son las respuestas, sino las preguntas.(p 90)
Es de la autoría, son muy borrosos. La pregunta de fondo, quizá no sea tanto si es lícito o no usar ideas anteriores, sino cuánto trazo propio debe tener una obra para poder considerarnos sus autores. (p 94)
Mundo híbrido: Las posibilidades creativas de este mundo híbrido serán tan extraordinarias. como desafiantes e impredecible. (p 95)
6. El terremoto educativo
El advenimiento de la IA no será suave ni progresivo y ejercerá una fuerza abrupta en todas las aristas de la sociedad (p 98)
La educación se con. Sobre una asimetría de conocimiento entre los que sabían mucho y enseñaban y los que sabían poco y aprendían (p 98)
Los asuntos más difíciles de resolver para cualquier maestro es que un grupo numeroso de niños ceda su atención de manera sostenida. (p 100)
¿Cuáles son las áreas y disciplinas que combinan valor y dificultad? Lo difícil que resulta aceptar que algo que era muy útil ha dejado de serlo. (p 103)
La incorporación de herramientas que hicieron nuestra vida más sencilla nos hizo perder muchísimas habilidades. (p 105)
Pilares básicos: Capacidad de concentrarnos, competencia lectora, el buen uso del lenguaje y el pensamiento lógico y matemático (p 105)
No debemos dejar de enseñar el valor del esfuerzo y de la concentración.
Sedentarismo cognitivo: Perder la capacidad de calcular, de mantener la atención o de realizar durante un tiempo un esfuerzo deliberado (p 106)
El aprendizaje sólo es efectivo si quien aprende está motivado. (p 109)
Todos los logros importantes de la vida requieren cierto grado de esfuerzo y de tolerancia a la frustración y a la fatiga. (p 110)
Sin memoria no hay pensamiento, ni inteligencia, ni artificial ni humana. (p 111)
Que una máquina puede realizar una función no implica que tengamos que abandonarla. No dejamos de caminar porque haya trenes. (p 112)
El promt nos permite rescatar la perspectiva socrática del valor de la interrogación y de la conversación. (p 113)
7. El trabajo y la deriva del sentido
Cuando queremos decir "Quienes somos" decimos "qué hacemos" (p 119)
Hace varios siglos que nuestra identidad está profundamente anclada en el trabajo.
La mayoría de las personas hemos hecho de las habilidades cognitivas nuestro mayor diferencial frente a las máquinas.(p 121)
Las actividades que estaban en peligro de reemplazo eran las rutinarias y repetitivas.
Desde los griegos hasta el presente, buscamos tecnologías que resuelvan las tareas cotidianas para poder dedicarnos a la virtud. (p 122)
Comoditización
- de lo aceptable
- de lo muy bieno ( el umbral OK
- completa
- de lo extraordinario
"Sesgo optimista": La mayoría de la gente cree que este cambio no les va a afectar de manera directa.(p 130) La diferencia con respecto a esta nueva ola de cambio radica en que sucederá a una velocidad mucho más vertiginosa.
Paradoja de Moravec: Algunas cosas que para las personas son muy sencillas resultan muy complicadas para una máquina y viceversa. (p 130)
- Actividades que requieren delcuerpo en movimiento (fontaneros)
- Empatía y conexión con otros
La virtud y el estigma de la pericia (p 133). Quién ha i9nvertido muchos años en un trabajo siente que, sobre este asunto, sabe mucho más que el resto de la gente. (p132)
Harari: la "clase innecesaria"
Sandel: Una de las discusiones más intensas era sobre la naturaleza misma del trabajo y de la libertad (p 135)
Cada sociedad tendrá que pensar y decidir cómo redistribuir el empleo. (p 138)
Voltaire: El trabajo resuelve tres grandes males: la necesidad, el aburrimiento y el vicio.
8. Al borde de la locura
Las IA conversacionales generan un clima propicio para la psicología (p 141)
Cuestiones que parecen muy complejas, como la empatía, son en realidad fáciles de imitar de forma convincente.
La metodología diagnóstica ha cambiado casi por completo en todas las áreas de la medicina, mientras que en la psiquiatría y la salud mental sigue siendo bastante parecida (p 143)
La IA en la salud mental es el diagnóstico precoz.
"Coherencia semántica": mide si un discurso está o no organizado (p 145)
El suicidio siguen siendo un tema tabú en nuestra sociedad (p 148)
Las palabras y similar a elegir qué ponernos. (p 150)
9. El primer pulso
Las máquinas pueden elegir de manera muy precisa que estímulo presentarnos para que altere nuestros pensamientos y conductas. (p154)
Steve Jobs. Muchas veces la gente no sabe lo que quiere hasta que se lo enseñas. (p 154)
La IA encuentra y aprovecha extraordinariamente bien nuestros bancos más débiles. (p 156)
The social dilema (Tristan Harris): Antes de que la IA supere la fuerza y la inteligencia humana, mucho antes, abusará de nuestra debilidad. (p 156)
La apropiación de nuestra voluntad a niveles que no imaginamos... Las posibilidades de manipulación se amplían hasta el infinito. (p 159)
Deep fakes: Si todo puede ser falso se vuelve muy difícil, casi imposible, encontrar lo que es real. (p 160)
Realidad mixta: Añadir objetos digitales a la vida real (realidad aumentada) y objetos reales a la vida digital (realidad virtual) puede difuminar todavía más esta difusa frontera. (p 161)
Irrealidad verosímil: Hay cierta similitud entre los sueños y la producción de una red generativa. (p 164)
10. La moral del algoritmo
¿Pueden las máquinas y la IA convertirse en una amenaza para nuestra especie? (p 169)
IA: puede aprender sin que nadie le enseñe (p 171)
Muchos cambios de este tipo son como "transiciones de fase" (p 174)
Los seres humanos nos equivocamos constantemente.
Errores IA
- Proponen cosas que no nos favorecen
- prejuicios humanos heredados de los datos de entrenamiento de la IA
- decisiones contrarias al interés de las personas
Dejar decisiones en manos de algoritmos que logran sus metas sin explicarlas puede llevarnos a apoptar medios moralmente cuestionables sin siquiera estar al tanto de ello. (p 179)
La decisión de qué criterio ético aplicar a nuestros vehículos es un tema muy delicado que es objeto de estudio y debate. (p 183)
Sócrates "Diálogo de Menón": ¿Cómo se descubre qué está bien y qué está mal?(p 185)
11. Entre la utopía y la distopia
En el mundo de las IA generativas, las noticias falsas pueden ser mucho más sutiles y peligrosas... Harari: la IA representa un peligro para la democracia (p 189)
Lo que las bombas atómicas hicieron en el siglo 20, seguramente lo haga la IA en el siglo 21... Buena parte del desarrollo tecnológico está en manos de corporaciones que, si bien son seguidas muy de cerca por los gobiernos, tienen sus propias agendas. (p 191)
TikToc: "Estupidizar" a la juventud occidental (p 192)
El cuello de botella es el entrenamiento de los modelos. (p 193)
Inteligencia
- Saber qué hacer cuando no sabes qué hacer
- Capacidad de coordinar información entre dominios muy distintos(p 195)
Capacidad de tomar las propias decisiones gracias a las redes neuronales, GPU, el aprendizaje autónomo adversarial, los transformes y los LLM (p 198)
Con la IA el sometimiento sobrevenga de manera mucho más sencilla: Valerse de nuestros aspecto más vulnerables, la vanidad, el deseo, la avaricia, la lujuria. (p 200)
Étienne de la Boétie "Discurso sobre la servidumbre voluntaria": La dominación muchas veces empieza en forma de violencia, pero que progresivamente se convierte en un acuerdo tácito.(p 200)
La probabilidad de que una civilización inteligente se destruye a sí misma.(p 204)
Si no conseguimos un acuerdo colectivo, es probable que tengamos que caminar durante el resto de la existencia al borde del precipicio... La inteligencia, el fenómeno emergente más elevado que puede producir la materia, es inherentemente autodestructiva. (p 205)
Tres sentidos
- sentido del humor (nos ayuda a identificar la ironía)
- sentido numérico
- sentido común (juicio general sobre cosas desconocidas)
Esa IA es esencialmente humana (p 210)
Es desde que hay vida en este planeta se han extinguido el 99,9% de las especies que han existido. (p 213)
Nuestra especie es pasajera (p 213)
