395. Conciencia artificial y qualia, con Santiago Sánchez Migallón

<p>Hoy conversamos con Santiago Sánchez Migallón, profesor de filosofía especializado en mente e inteligencia artificial y autor del blog La máquina de Von Neumann. La conversación gira en torno a una de las preguntas más discutidas actualmente: si sistemas como ChatGPT realmente entienden lo que dicen o simplemente producen respuestas coherentes mediante procesos estadísticos.</p><p><br></p><p>Uno de los ejes principales es la diferencia entre inteligencia, comprensión y conciencia. Santiago explica cómo los grandes modelos del lenguaje funcionan a partir de predicciones estadísticas sobre palabras y tokens, lo que ha llevado a compararlos con “loros estocásticos”. Sin embargo, también reconoce que sus capacidades actuales obligan a replantear qué entendemos exactamente por inteligencia y hasta qué punto ciertos comportamientos pueden considerarse comprensión.</p><p><br></p><p>Gran parte del episodio se centra en el llamado grounding problem o problema del anclaje del significado. A través de ejemplos clásicos de la filosofía de la mente y del lenguaje, se discute cómo los seres humanos asociamos palabras con experiencias reales del mundo, mientras que las máquinas operan únicamente sobre símbolos y representaciones matemáticas. Esto lleva a debatir si una IA puede comprender realmente conceptos como “perro”, “dolor” o “color rojo” sin tener experiencia directa de ellos.</p><p><br></p><p>También se aborda el problema de la conciencia y los límites actuales tanto de la filosofía como de las neurociencias para explicarla. Santiago diferencia claramente entre simular emociones y experimentarlas realmente, introduciendo conceptos como los qualia y la experiencia subjetiva. Desde esta perspectiva, sostiene que las máquinas actuales no poseen emociones, sensaciones ni conciencia fenomenológica, aunque puedan generar discursos convincentes sobre ellas.</p><p><br></p><p>Otro tema importante es la relación entre filosofía y ciencia. Frente a enfoques más alejados del empirismo, Santiago defiende una filosofía estrechamente conectada con las ciencias cognitivas, la neurociencia y la inteligencia artificial. La conversación explora cómo la filosofía puede aportar marcos conceptuales, experimentos mentales y análisis críticos, mientras que la ciencia proporciona los datos empíricos necesarios para avanzar en estos problemas.</p><p><br></p><p>Además, hablamos sobre divulgación, escritura y lectura en la era digital. Santiago reflexiona sobre la evolución de los blogs, la pérdida de hábitos de lectura profunda y la importancia de escribir como herramienta para pensar. También comenta cómo la inteligencia artificial está obligando a replantear conceptos tradicionales como identidad, relaciones humanas, creatividad o incluso qué significa ser humano.</p><p><br></p><p>En la parte final, repasamos su trayectoria personal, su interés temprano por la informática y cómo terminó combinando filosofía, inteligencia artificial y ciencias cognitivas. También hablamos sobre docencia, educación y los retos de enseñar filosofía en una época marcada por la inmediatez tecnológica y la fragmentación de la atención.</p><p><br></p><p>Como cierre, se subraya la necesidad de mantener espacios de reflexión pausada y crítica en medio del actual entusiasmo tecnológico. Comprender qué son realmente estas tecnologías y cuáles son sus límites requiere no solo avances técnicos, sino también reflexión filosófica y diálogo interdisciplinar.</p><p><br></p><p>Para más info sobre Santiago: https://about.me/santiagosanchezmigallon</p><p><br></p><p>Si quieres discutir el contenido de este episodio con otros investigadores, puedes unirte a nuestra comunidad de investigadores en <a href="https://horacio-ps.com/comunidad">https://horacio-ps.com/comunidad</a> o seguir i newsletter para estar al tanto de contenidos extra relacionados en <a href="https://horacio-ps.com/newsletter">https://horacio-ps.com/newsletter</a></p><p><br></p><p>Si el episodio te ha resultado interesante, pu