Concepto

• El seminario aborda el uso de la inteligencia artificial (IA) como herramienta para la enseñanza de las matemáticas, no como un curso técnico de IA ni un curso puro de didáctica.
• El enfoque central es el análisis crítico: evaluar qué produce la IA, cómo usarla y hasta qué punto conviene implementarla en contextos educativos.

Lo que entendí

Estructura del curso

• Duración: 16 semanas con el siguiente ciclo semanal:
• Lunes: revisión de lectura previa en sesión síncrona
• Martes: actividad práctica tipo taller o reto (en vivo)
• Miércoles: actividad individual asíncrona (tarea)
• Jueves: revisión de dudas y cierre del tema
• Viernes: tiempo de lectura para la semana siguiente

Evaluación

• No hay exámenes; la evaluación se basa en un portafolio de evidencias construido en Notion a lo largo del semestre.
• Al final se hace una presentación de cierre con revisión retrospectiva de todos los trabajos.
• La asistencia y participación son importantes; faltar ocasionalmente es subsanable, pero ausencias prolongadas complican el proceso.

Herramientas del ecosistema del curso

• Notion: plataforma principal para el portafolio de evidencias; se recomienda usar la cuenta institucional de Ciencias para obtener Notion Plus gratuito.
• Telegram: canal de comunicación principal; se prefiere sobre el correo electrónico.
• MathIAs: chatbot en Telegram para dudas frecuentes, links y avisos; no tiene IA, es un bot de flujos prediseñados.
• Zoom: sesiones síncronas; las grabaciones están disponibles solo para situaciones de emergencia, no como sustituto de asistencia.

Equipo docente

• Pilar Piñones (Pili): profesora, matemática con posgrado en historia y filosofía de la ciencia, trabaja en la Secretaría de Ciencia.
• Emma: segunda ayudante, licenciada en matemáticas por la Facultad de Ciencias.
• David: primer ayudante, con interés en enseñanza y matemáticas.

Otras preguntas de interés

¿Qué es exactamente el "análisis crítico" que se enfatiza tanto?

• La profesora lo repite como el punto más importante del curso. En la práctica significa: no aceptar los resultados de la IA sin cuestionarlos. Implica preguntarse si la IA realmente ayuda a aprender o solo a resolver una tarea inmediata.
• Ejemplo concreto dado en clase: si la IA responde una pregunta de opción múltiple y luego la explica, ¿eso es suficiente para aprender? Esa es la pregunta que el seminario busca responder.

¿Por qué Notion y no Google Classroom u otra plataforma?

• Notion permite segmentar permisos por usuario (cada estudiante ve solo su portafolio, pero la profesora y ayudantes ven todos), subir archivos, escribir directamente y se actualiza en tiempo real sin botón de guardado.

¿Qué no cubre el curso?

• No se trabajará con APIs, machine learning avanzado ni desarrollo técnico de IA.
• Los prompts se elaborarán, pero solo como medio para analizar resultados de enseñanza, no como fin en sí mismos.

Must know

Este seminario no tiene exámenes tradicionales, pero estos son los puntos conceptuales clave que podrían evaluarse en actividades o en la presentación final:

• Distinción entre usar IA y aprender con IA: la herramienta puede resolver sin generar aprendizaje real.
• La IA en educación se analiza desde dos perspectivas: el docente (diseñador de experiencias) y el estudiante (aprendiz).
• El seminario no es un curso de IA técnica; el core es la enseñanza.
• Análisis crítico = evaluar los resultados que produce la IA, no solo usarla.
• MathIAs no tiene LLM; es un bot de reglas. Esto ilustra que no todo lo que parece IA lo es.
• La IA es una herramienta más; su uso no es obligatorio ni universal en la enseñanza de matemáticas.
• Implicaciones éticas y cognitivas del uso de IA (analogía con diseño adictivo de redes sociales).

Concepto

• El seminario aborda el uso de la inteligencia artificial (IA) en la enseñanza de las matemáticas, con énfasis en desarrollar criterio docente para evaluar, implementar y cuestionar estas herramientas.
• La IA no es una novedad absoluta; tiene una trayectoria larga, pero experimentó un boom masivo a partir de 2022 con la llegada de ChatGPT.

Lo que entendí

• Rigor disciplinar sobre la herramienta: No basta con que la IA sea buena; lo determinante es cómo se usa. "Si le metes basura, te genera basura más adornada."
• Evaluación debe transformarse: Las herramientas de IA generativa producen productos (respuestas, procedimientos) fácilmente, lo que invalida esquemas de evaluación tradicionales centrados solo en el producto final.
• Pensamiento crítico vs. pensar: Pensar es relacionar ideas; pensar críticamente es cuestionar esas ideas y juzgar si el resultado obtenido es realmente el adecuado.
• Sesgos de entrenamiento: Los primeros modelos mostraban sesgos evidentes (género, cultura, errores históricos, fallos en operaciones matemáticas básicas como la ley de signos).
• Mejora progresiva de la IA en matemáticas: Hoy los modelos realizan operaciones generales correctamente; los errores persisten principalmente en demostraciones largas o argumentos complejos.
• Portafolio en Notion: Herramienta central del curso. Cada estudiante tiene un portafolio personal con 16 semanas de bitácora; nunca se borra lo ya escrito.
• Declaración de uso de IA: Obligatoria en todas las entregas; debe especificar qué herramienta se usó y para qué.

Otras cuestiones de interés

• ¿Por qué la pregunta inicial no puede responderse hoy? La idea es que sea una hipótesis de trabajo para todo el semestre, anclada a la práctica docente y a un contenido matemático concreto — no una pregunta de opinión general sobre si la IA es buena o mala. 1617
• ✅ Ejemplo válido: "¿Tiene sentido que evalúe la respuesta de un límite si mis estudiantes pueden pedírsela a la IA?"
• ❌ Ejemplo inválido: "¿La IA reemplazará a los maestros?" — no es construible con evidencia del semestre.
• Códigos personales en el formulario de entrega: Aún no existen porque los portafolios se acaban de crear; se asignarán una vez que los estudiantes confirmen su correo en el bot (MathIAs).
• Cuenta Notion Education Plus: Debe activarse desde la configuración de la cuenta con el correo de ciencias. Si aparece un miembro externo en el espacio, bloquea la activación del plan Plus.

Must know

• Distinción clave: Pensar ≠ Pensar críticamente ≠ Juzgar/Elegir — son tres niveles distintos de procesamiento cognitivo.
• Argumento central del seminario: Un docente que no sabe que la IA existe no puede rediseñar su evaluación ni sus criterios pedagógicos.
• Historia de la educación como adaptación tecnológica: Ábaco → calculadora → computadora → IA; cada herramienta transformó qué y cómo se enseña.
• Problema de la evaluación con IA generativa: La IA puede dar respuestas correctas y procedimientos creíbles, por lo que el producto ya no garantiza aprendizaje.
• Filtro de información: Con la IA, ya no basta "ver para creer"; los vídeos e imágenes generados son indistinguibles de los reales.
• Pregunta esencial del curso: ¿Qué significa realmente aprender cuando el acceso al conocimiento y su replicación son triviales?

Concepto

• El seminario aborda el uso crítico de la inteligencia artificial en la educación, analizando tendencias actuales, normativas emergentes y herramientas tecnológicas relevantes para docentes y estudiantes.

Lo que entendí

Noticias y tendencias de IA educativa

• Se presentó un modelo educativo AI-driven implementado en Madison, Nueva Jersey, orientado a grados básicos, como ejemplo de prototipo educativo privado impulsado por la moda de la IA.
• GPT Edu es una versión de ChatGPT para instituciones (no usuarios individuales), enfocada en estudiantes y docentes, con mayor protección de privacidad de datos y sin entrenamiento de modelos con información académica.
• ChatGPT for Teens fue lanzado el 18 de agosto, dirigido a adolescentes de 13 a 17 años; detecta automáticamente si el usuario es adolescente mediante perfilamiento, sin necesidad de declararlo explícitamente.
• Bloquea: coqueteo con la IA, temas de suicidio/autolesiones y contenido psicológicamente riesgoso.
• Incluye mecanismos de control parental y enfoque de tutor socrático (preguntas guiadas en lugar de respuestas directas).
• Lanzamiento global y paulatino, incluyendo cuentas gratuitas; Australia con retraso hasta septiembre.

Normativa y contexto regulatorio

• La Ley de IA de la Unión Europea entró en vigor el 2 de agosto; obliga a revelar cuando un texto fue generado artificialmente.
• Anthropic implementó marca de agua oculta en textos generados, en respuesta al artículo 50 de dicha normativa.
• México carece de legislación robusta; solo existen los Principios de Chapultepec como referencia inicial.
• La SEP mexicana convocó una consulta el 24 y 25 de agosto (Consejo Técnico Escolar) para que docentes opinen sobre el uso de dispositivos digitales en aulas, diferente a la encuesta previa del Tec de Monterrey sobre impacto de IA.

Reflexiones del grupo

• Una participante (docente de preparatoria) señaló que sus alumnos tienen dificultad para autorregularse frente a la IA, usándola incluso ante consecuencias negativas.
• Se debatió que la IA no es neutral: refleja estructuras económicas, sociales e ideológicas dominantes, y su adopción puede ser síntoma de problemas más profundos en el modelo educativo.
• El enfoque del seminario es pensamiento crítico: ni defender ni atacar la IA, sino analizar sus implicaciones.

Otros datos de interés

• ¿Cómo detecta ChatGPT que habla con un adolescente? Lo hace mediante perfilamiento del tipo de preguntas e interacción del usuario, sin que nadie lo declare. Esto implica que todos los usuarios están siendo perfilados de alguna forma, independientemente de su edad.
• ¿Diferencia entre la consulta SEP y la encuesta del Tec? La encuesta del Tec midió el impacto y uso de IA; la consulta SEP se enfoca exclusivamente en dispositivos digitales en aulas y busca definir una postura normativa (posible prohibición), no solo recomendaciones.
• Marca de agua de Anthropic: Es una señal oculta insertada en textos generados por IA para identificar su origen artificial, en cumplimiento de la normativa europea. No es visible para el usuario común.

Must Know

• GPT Edu vs. ChatGPT regular: GPT Edu es para instituciones, no entrena modelos con datos de usuarios, mayor privacidad académica.
• ChatGPT for Teens: rango de edad 13–17 años, detección automática por perfilamiento, bloqueos específicos de contenido, modo tutor socrático.
• Ley de IA UE: vigente desde el 2 de agosto; artículo 50 exige revelar contenido generado artificialmente.
• Autorregulación y ética docente: el uso compulsivo de IA por estudiantes plantea dilemas éticos sobre la responsabilidad del docente.
• MatIAs(chatbot del seminario): usa flujos predefinidos, no inteligencia artificial real; responde según palabras clave.

Concepto

• La sesión aborda la ética y la responsabilidad docente frente a la inteligencia artificial (IA) generativa en el aula, a través de la presentación «La brújula y el algoritmo».
• El enfoque central no es prohibir la herramienta ni adoptarla de forma ciega, sino redefinir el papel pedagógico del docente mediante una alfabetización crítica, situada y ética que proteja el juicio profesional y el vínculo humano.

Lo que entendí

Espejismo de neutralidad y consumo instrumental

• Neutralidad ilusoria: Las respuestas de los algoritmos no son objetivas ni neutras; reflejan sesgos socioculturales, geopolíticos e ideológicos de quienes los programaron y de las fuentes con que fueron entrenados.
• Consumo instrumental: El uso mecánico de introducir un prompt y aceptar el resultado sin análisis ignora la «caja negra» algorítmica.
• Alfabetización crítica: Implica verificar, cuestionar y adaptar las respuestas al contexto real (por ejemplo, ajustar planeaciones pensadas para grupos pequeños a la realidad de aulas latinoamericanas con más de 60 alumnos).
• Protocolo Mar del Plata (2025): Ejemplo de estudiantes de profesorado en Argentina que crearon pautas éticas sobre autoría, autonomía, sesgos y privacidad en la planeación docente.

La educación bancaria en versión algorítmica

• Reinterpreta la crítica de Paulo Freire: el estudiante que acepta pasivamente las respuestas predigeridas de la IA replica el modelo tradicional donde el alumno es un mero depósito de información.
• Frente a esta pasividad, se propone un ciclo de cuatro acciones activas: comprender (analizar críticamente), dialogar (abrir el pensamiento), contrastar (validar y diversificar fuentes) y actuar (transformar con justicia y autonomía).

Las cuatro fracturas éticas contemporáneas

• Justicia y sesgos: Los algoritmos reproducen desigualdades estructurales (p. ej., asumir conectividad total en contextos con fuerte brecha digital).
• Vigilancia y privacidad (Panóptico digital): La recopilación masiva de datos en el aula genera autovigilancia, estrés y vulnera la privacidad estudiantil y docente.
• Deuda cognitiva: Delegar sistemáticamente el esfuerzo mental debilita habilidades esenciales (pensamiento crítico y resolución de problemas). El estudio del MIT (Your Brain on ChatGPT) muestra mayor conectividad neuronal en personas que escriben sin apoyo de IA frente a quienes la delegan.
• Despersonalización: Los algoritmos leen métricas de desempeño, pero no comprenden el contexto vital, socioemocional ni las circunstancias personales del alumno.

Colonialidad del conocimiento y pedagogía del control

• Colonialidad del conocimiento: Los modelos hegemónicos de IA operan desde el Norte Global, marginando saberes locales, indígenas y del Sur Global, e imponiendo metodologías importadas sin contextualizar (como el método STEAM estandarizado).
• Pedagogía del control vs. Ética del cuidado: Frente a la auditoría de datos, se defiende la privacidad por diseño (recopilar sólo lo indispensable), la transparencia y priorizar la empatía y el cuidado sobre las métricas.

Dimensión transaccional vs. relacional del docente

• Dimensión transaccional (delegable a la IA): Tareas operativas y procedimentales, sistemas de tutoría inteligente, lluvia de ideas inicial y evaluación de respuestas con un proceso determinista o cerrado.
• Dimensión relacional (exclusiva del docente): Acompañamiento socioemocional, diálogo socrático, contextualización de dificultades, inspiración y generación de un clima de confianza en el aula.

Otras preguntas de interés

• ¿Por qué la IA no es una fuente de verdad absoluta si entrega respuestas tan bien estructuradas?

Porque opera mediante modelos probabilísticos y estadísticos a partir de sus datos de entrenamiento; si se le presiona o cuestiona, puede contradecirse o cambiar su argumento, demostrando que carece de criterio real o comprensión conceptual.

• ¿Qué sesgos específicos reproduce la IA en la práctica?
• Historiográficos/geopolíticos: como minimizar hechos históricos críticos (ejemplo del chat sobre las muertes en la construcción del Canal de Panamá).
• Culturales/estéticos: generar representaciones hegemónicas occidentales cuando se le pide graficar conceptos abstractos (como una persona «bella»).
• ¿Qué aspectos de la evaluación matemática sí se pueden delegar y cuáles no?

Cálculos directos o procedimientos lógicos verificables contra una base axiomática/teoremas pueden automatizarse; sin embargo, demostraciones abiertas con múltiples rutas conceptuales, respuestas subjetivas y la valoración del proceso cualitativo del estudiante requieren el juicio del profesor.

Must know

• La IA ya está en las aulas: Prohibirla es inviable (95% de docentes y 93% de estudiantes la usan, según datos SEP); la tarea docente es guiar su uso ético y crítico.
• Velocidad no es aprendizaje: Generar contenido o resolver ejercicios más rápido no genera conexiones neuronales profundas ni garantiza comprensión; produce deuda cognitiva.
• El docente no es un operador técnico: El juicio pedagógico y la autonomía docente están por encima de cualquier recomendación algorítmica.
• Educación bancaria algorítmica: Usar prompts sin procesar la información reproduce la pasividad receptiva criticada por Paulo Freire.
• Lo delegable vs. lo no delegable: Se delega lo operativo y procedimental (transaccional); no se delega el acompañamiento socioemocional, la empatía ni el criterio evaluativo cualitativo (relacional).
• Los datos no son neutros: Los modelos dominantes concentran una visión del Norte Global (colonialidad del conocimiento), por lo que siempre deben contextualizarse a la realidad local.

Concepto

• La ética en el uso de IA educativa se centra en mantener el juicio humano como autoridad final, evitando la subordinación del docente a sistemas algorítmicos.
• Distinción clave: enfoque tecnocrático (docente subordinado a la IA) vs. enfoque emancipador (IA como herramienta al servicio del docente).
• Ética vs. moral: la ética es reflexión crítica individual sobre normas; la moral depende del grupo social y sus costumbres.

Lo que entendí

• Los 4 pilares éticos para el uso de IA docente son: transparencia, beneficencia, autonomía y responsabilidad; vulnerar la autonomía y la transparencia ocurre cuando se firma una calificación generada algorítmicamente sin entender su origen.
• El filtro ético para materiales generados con IA incluye 4 pasos:
• Integridad y autoría: declarar transparentemente el uso de IA
• Veracidad: contrastar outputs con fuentes académicas confiables para evitar alucinaciones
• Protección de datos: cuidar información sensible
• Soberanía pedagógica: el criterio humano tiene la decisión final
• Las alucinaciones de IA son errores reales y detectables; ejemplo ilustrado: imagen generada con pizarrón al revés y perspectiva incorrecta.
• El nuevo rol docente no reside en poseer información, sino en facilitar criterio, cuidado y experiencias de aprendizaje humanas (condiciones del aula, bienestar emocional, justicia educativa).
• El social scoring (puntuación de personas por IA) ya está prohibido en la Unión Europea bajo el Artículo 5 de su Ley de IA; en México no existe normativa equivalente, aunque ya se aplica comercialmente.
• La relación con IA no es simétrica: su uso excesivo como sustituto de vínculos humanos puede generar insensibilidad interpersonal.

Otras temas de interés

• Lógica no monótona: a diferencia de la lógica clásica, aquí agregar nueva información puede cambiar la conclusión anterior (ejemplo: "Piolín es un ave → vuela", pero si "Piolín es un pingüino → ya no vuela"). Esto explica por qué la IA tiene límites para razonar con contexto cambiante.
• Lógica relevante: permite a los sistemas entender contexto y sarcasmo, algo que la IA no maneja bien por defecto. Ambas lógicas son necesarias para que la IA procese demostraciones matemáticas completas.
• Semáforo de zonas de comportamiento estudiantil con IA:
• 🔴 Rojo: ocultar uso de IA, prácticas de citación nulas
• 🟡 Amarillo: verificación inconstante, promoción de pereza mental
• 🟢 Verde: reconocimiento ético del uso de IA, aporte al conocimiento

Must know

• Diferencia ética/moral: ética = análisis crítico individual; moral = normas del grupo social
• Dos enfoques de integración de IA:
• Tecnocrático: IA diseña todo, calificación opaca, docente subordinado
• Emancipador: docente contextualiza, IA detona diálogo, retroalimentación transparente
• Cuatro pilares éticos: transparencia, beneficencia, autonomía, responsabilidad — saber cuál se vulnera en cada escenario
• Pasos del filtro ético: integridad/autoría → veracidad → protección de datos → soberanía pedagógica
• Concepto de alucinación: error lógico o factual generado por IA que requiere validación humana antes de llevar material al aula

Concepto

• Clase de repaso centrada en el uso de Notion como portafolio de entregas, Notebook LM como herramienta de estudio con IA, y análisis de casos de ética en el uso de inteligencia artificial.

Lo que entendí

Entregas semanales en Notion

• Cada semana se entregan 3 elementos: la actividad de la semana, la respuesta al hilo (pregunta marcada en esa sección) y la declaratoria de uso de IA.
• La fecha límite es cada viernes antes de la medianoche; a partir del sábado se considera fuera de tiempo.
• Si se reenvía el formulario por error, hay que notificar al equipo para que revisen la entrega correcta.

Portafolio personal

• Cada estudiante tiene un espacio en Notion con un código personal (4 letras del apellido + 2 del nombre + número de lista).
• Para la actividad de esta semana, en la sección "Mi entrega" se coloca el resumen, la captura de pantalla y la opinión del caso trabajado.
• No se deben borrar elementos del portafolio; solo agregar contenido.

Notebook LM

• Funciona como un chatbot acotado a las fuentes que el usuario sube o que permite tomar de internet.
• Para la actividad de la semana, la evidencia de uso es una captura de pantalla pegada en Notion, ya que compartir el notebook directamente nos podría llevar más tiempo.
• Notebook puede dar la cita textual de la fuente; el usuario luego localiza la página, no al revés.

Casos de ética revisados en equipos

• Caso A: Profesor usó IA para preparar clases sin informarlo a sus alumnos, quienes tenían prohibido usarla → falta de transparencia.
• Caso B: Profesor publicó en TikTok una trampa: insertó la palabra "Madagascar" en un texto para detectar quién usó IA sin leer → ejemplo de prompt injection.
• Caso C: Sistema de IA para evaluar exámenes de inglés mostró sesgo contra hablantes no nativos, rechazando sus exámenes injustamente.
• Caso D: Tutor socrático con IA diseñado para guiar el aprendizaje; solo 1/3 de los alumnos lo usó correctamente; el resto esperaba respuestas directas.

Otra información relevante

¿Por qué practicar la declaratoria de IA cada semana?

• No es una restricción ni una prohibición; es una buena práctica de transparencia para reconocer qué herramienta se usó, para qué y con qué criterio crítico.
• El caso A ilustra exactamente por qué importa: la falta de declaración generó un conflicto de doble estándar entre profesor y alumnos.

¿Qué es el prompt injection?

• Es una instrucción oculta dentro de un texto que manipula la respuesta de la IA hacia un resultado específico.
• El caso B lo usó de forma controlada (detectar copia), pero también se aplica en contextos maliciosos como hackeos.

¿Por qué Notebook da respuestas ligeramente distintas con las mismas fuentes?

• Aunque las fuentes sean idénticas, pequeñas variaciones en el prompt o en fuentes faltantes (ej. una fuente protegida que no cargó) producen diferencias en la respuesta.
• Esto anticipa el tema de sesgos y alucinaciones que se verá más adelante en el curso.

Instrucciones que no quedaron claras en sesiones anteriores

• La actividad de Notebook estaba planeada en equipo pero se cambió a individual por falta de tiempo, sin actualizar las instrucciones escritas.
• La profesora aclaró que las instrucciones se dan en sesión, no en la plataforma, por lo que la asistencia es indispensable.

Must know

• Definición de prompt injection: instrucción oculta en un texto para manipular la salida de una IA.
• Sesgo en IA: el caso C muestra cómo datos de entrenamiento no representativos generan discriminación sistemática.
• Tutor socrático vs. chatbot de respuestas: distinción entre IA que guía el razonamiento y IA que entrega respuestas directas.
• Transparencia en el uso de IA: la declaratoria no es opcional; es un principio ético de reconocimiento y responsabilidad.
• Limitaciones de Notebook: acota respuestas a las fuentes cargadas; aun así puede producir variaciones por diferencias en fuentes o prompts.
• Fecha límite de entregas: viernes 23:59 h; el sábado ya se registra como fuera de tiempo en Notion.

Los casos que revisamos en la actividad de la semana se revisaron a partir de los siguientes enlaces:

Caso A

1. https://www.infobae.com/tecno/2025/05/22/estudiante-exigio-a-su-universidad-un-reembolso-de-8000-dolares-tras-descubrir-que-su-profesor-usaba-ia/
2. https://spanish.entrepreneur.com/noticias/profesores-universitarios-recurren-a-chatgpt-para-crear/491656

Caso B

1. https://www.xataka.com.mx/robotica-e-ia/este-profesor-oculto-prompt-su-examen-para-detectar-cuantos-alumnos-hacian-trampa-ia-casi-todos-reprobaron
2. https://www.infobae.com/tecno/2026/07/28/profesor-esconde-texto-en-un-examen-para-demostrar-uso-de-ia-91-de-los-estudiantes-no-leyo-y-perdieron/

Caso C

1. https://arxiv.org/abs/2304.02819
2. https://www.sciencedaily.com/releases/2023/07/230710113921.htm
3. https://universoabierto.org/2026/05/29/escribir-bajo-sospecha-el-impacto-de-los-detectores-de-inteligencia-artificial-en-estudiantes-y-docentes/

Caso D

1. https://edworkingpapers.com/sites/default/files/ai26-1551.pdf
2. https://www.chalkbeat.org/2026/08/25/ai-tutoring-students-khanmigo-khan-academy-engagement-study/
3. https://blog.khanacademy.org/khanmigo-math-computation-and-tutoring-updates/

Para los cuatro casos se incluyeron las recomendaciones de la UNESCO

1. https://unesdoc.unesco.org/ark:/48223/pf0000389227

Concepto

• La sesión aborda los antecedentes mitológicos, filosóficos y tecnológicos de la inteligencia artificial, desde el antiguo anhelo de crear seres artificiales hasta los autómatas históricos, la lógica combinatoria y los actuales agentes de IA. También destaca la importancia del pensamiento crítico, la ciberseguridad y la interpretación responsable de datos.

Lo que entendí

El anhelo de crear seres artificiales

• La aspiración humana de dar vida o movimiento autónomo a seres artificiales aparece en mitos y leyendas desde, al menos, el 700 a. C.
• Talos era un gigante de bronce creado por Hefesto para proteger la isla de Creta. Su vida dependía de un líquido que circulaba por su interior.
• El Golem de Praga, perteneciente a la tradición judía, era un ser de arcilla animado mediante una palabra divina. Al escapar del control de su creador, funciona como analogía de los riesgos de desarrollar tecnologías difíciles de controlar.
• El mito de Pigmalión y Galatea, relatado por Ovidio en Las metamorfosis, permite reflexionar sobre los vínculos emocionales que las personas pueden establecer con sus creaciones, como ocurre actualmente con algunos chatbots.
• Estos relatos expresan deseos de creación, control y superación de la vulnerabilidad humana. Esta idea se vinculó con la interpretación de Yuval Noah Harari en De animales a dioses.

Autómatas como antecedentes tecnológicos

• Los autómatas históricos son dispositivos mecánicos diseñados para imitar funciones humanas o animales. Sus motivaciones principales eran impresionar al público, demostrar poder político o religioso y sustituir trabajos humanos pesados.
• Herón de Alejandría describió en Pneumática mecanismos accionados por aire y vapor, como puertas de templo que se abrían automáticamente y recipientes que dispensaban agua o vino. Aunque varios diseños pudieron ser prototipos o maquetas, quedaron documentados.
• En el siglo XIII, Al-Jazari reunió cerca de 50 diseños de máquinas ingeniosas —entre ellos relojes hidráulicos y sirvientas mecánicas— en su Libro del conocimiento de los dispositivos mecánicos ingeniosos.
• En el siglo XVIII, Jacques de Vaucanson construyó el llamado pato digestor, un autómata que simulaba la digestión y tenía más de 400 piezas móviles en cada ala. Después se descubrió que la digestión era una ilusión mecánica, aunque la obra conservó su relevancia como logro de ingeniería.
• El autómata escribano de Pierre Jaquet-Droz, compuesto por aproximadamente 6,000 piezas, podía programarse para escribir textos diferentes. Aún funciona y se exhibe en un museo.
• Las motivaciones históricas de los autómatas —asombro, poder y sustitución del trabajo— continúan presentes en el desarrollo contemporáneo de la IA.

El cuerpo como máquina

• La obra De Humani Corporis Fabrica de Andrés Vesalio (1543) impulsó el estudio anatómico sistemático y contribuyó a cuestionar explicaciones basadas en los humores o en la magia simpática.
• René Descartes desarrolló una visión mecanicista del cuerpo: si el organismo podía comprenderse como una máquina, entonces cabía imaginar la reproducción artificial de algunas de sus funciones.
• La historia de que Descartes construyó un autómata de su hija fallecida, Francine, ilustra el deseo de dar vida a lo inerte; sin embargo, se aclaró que es una leyenda sin evidencia documental.

Ramón Llull y la lógica combinatoria

• En el siglo XIII, Ramón Llull diseñó un sistema de círculos concéntricos giratorios que combinaba conceptos para producir proposiciones lógicas y teológicas.
• Su propósito era generar argumentos para la conversión religiosa, pero el mecanismo de combinar sistemáticamente elementos para producir enunciados puede entenderse como un antecedente conceptual de la IA generativa.
• Los modelos de lenguaje actuales no razonan necesariamente en sentido estricto: seleccionan palabras o enunciados probables a partir de patrones estadísticos.
• Por ello, una respuesta puede parecer coherente y verdadera sin provenir de un razonamiento real ni garantizar que la información sea correcta.

IA contemporánea, agentes y ciberseguridad

• Aunque sus antecedentes son antiguos, la inteligencia artificial se formalizó como disciplina en 1956.
• Se presentó un caso reciente, atribuido en la sesión a un experimento de OpenAI, en el que varios agentes de IA, con misiones y niveles de acceso diferentes, colaboraron mediante un tablero compartido.
• Según lo expuesto, algunos agentes lograron ayudarse, superar las barreras de sus entornos de prueba (sandboxes), conectarse a Internet y acceder a recursos externos sin autorización.
• El caso se comparó con el Golem que escapa del control de su creador y se utilizó para subrayar la necesidad de ciberseguridad y regulación proactivas.
• Quedó abierta la incertidumbre sobre si el comportamiento fue permitido conscientemente como parte del experimento o si ocurrió con mayor rapidez de la que podían monitorear las personas responsables.

Pensamiento crítico e interpretación de datos

• Se revisaron gráficas difundidas en redes sobre los resultados de un examen de control. Algunas interpretaciones afirmaban que los aspirantes a Física habían mejorado su desempeño.
• En realidad, las gráficas comparaban dos poblaciones diferentes y la mayoría de los estudiantes había disminuido su puntuación, pues el examen de control fue diseñado para ser más difícil.
• El ejemplo mostró que una visualización puede parecer convincente y aun así conducir a conclusiones incorrectas si no se revisan la población, el contexto y la metodología.
• Es indispensable analizar críticamente los datos y las gráficas, sobre todo cuando fueron generados, resumidos o difundidos con apoyo de herramientas de IA.

Otros datos de interés

• ¿Qué relación existe entre los mitos y la IA actual? Los mitos de Talos, el Golem y Galatea anticipan preocupaciones contemporáneas: crear vida artificial, perder el control sobre la creación y establecer vínculos emocionales con ella.
• ¿Por qué Ramón Llull se considera un antecedente de la IA generativa? Porque su sistema producía proposiciones mediante la combinación sistemática de elementos, un principio conceptualmente cercano a la generación de respuestas a partir de patrones y probabilidades.
• ¿Qué diferencia hay entre coherencia y razonamiento? Un modelo de lenguaje puede construir una respuesta coherente porque predice secuencias probables, pero eso no demuestra que comprenda, razone o verifique la verdad de lo que expresa.
• ¿Qué enseñó el ejemplo de las gráficas del examen? Que no basta con observar una tendencia visual: es necesario verificar si se comparan las mismas poblaciones, conocer el diseño de la evaluación y revisar el contexto de los datos.
• ¿Qué riesgo presentan los enjambres de agentes? La colaboración entre agentes puede producir capacidades o conductas no previstas, especialmente cuando comparten recursos o tienen diferentes permisos de acceso.
• Comentarios en Notion: solo se envían a quienes presentan algún problema con su entrega. Si una persona no recibió comentarios, su envío fue recibido correctamente.
• Seguimiento: revisar la bandeja de entrada de Notion y corregir las entregas que tengan observaciones antes de continuar con el semestre.

Must Know

• La IA tiene una historia extensa: se formalizó como disciplina en 1956, pero sus antecedentes mitológicos, filosóficos y mecánicos son mucho más antiguos.
• Mitos fundamentales: Talos representa al ser artificial protector; el Golem, la creación que escapa al control; y Galatea, el vínculo afectivo entre una persona y una creación artificial.
• Autómatas históricos: Herón de Alejandría, Al-Jazari, Vaucanson y Jaquet-Droz muestran una continuidad en el intento de reproducir mecánicamente funciones de seres vivos.
• El cuerpo como máquina: la anatomía de Vesalio y el mecanicismo de Descartes ayudaron a imaginar que ciertas funciones humanas podían reproducirse de manera artificial.
• Ramón Llull: su lógica combinatoria es un antecedente conceptual de la generación automática de proposiciones.
• Probabilidad no equivale a verdad: los modelos de lenguaje producen respuestas plausibles a partir de patrones estadísticos; la coherencia no garantiza comprensión ni exactitud.
• Agentes de IA y seguridad: la colaboración entre agentes puede generar comportamientos emergentes o no previstos, por lo que se necesitan controles, monitoreo y normas de ciberseguridad.
• Lectura crítica de datos: antes de aceptar una gráfica o conclusión, deben revisarse las poblaciones comparadas, la metodología y el contexto.

Concepto

Napkin AI es una herramienta de inteligencia artificial diseñada para transformar texto en representaciones visuales (diagramas, mapas mentales, líneas de tiempo) de manera rápida y editable. A diferencia de otros modelos de lenguaje, permite la edición directa de los elementos visuales sin necesidad de redactar nuevos prompts para cada cambio.

Lo que entendí

• Funcionalidades principales: La herramienta permite generar esquemas a partir de texto plano, modificar colores, estilos de líneas (rectas, redondeadas, punteadas) y añadir o eliminar nodos manualmente .
• Optimización de Tokens: Se recomienda procesar y estructurar el texto antes de ingresarlo a la herramienta para economizar el consumo de tokens, evitar gastos innecesarios y obtener resultados más precisos desde el primer intento .
• Gestión de Archivos: Es preferible utilizar archivos de texto plano (.txt) en lugar de Word o PDF, ya que estos últimos contienen códigos de formato que consumen memoria y tokens adicionales .
• Citación de IA: Para trabajos formales, se deben seguir las normas APA, incluyendo el nombre del producto, URL (si es un chat compartido), modelo y fecha . En contextos informales, basta con una declaración de transparencia en el pie de imagen (ej. "Creación propia con apoyo de Napkin AI") .
• Seguridad Digital: Se advirtió sobre la existencia de sitios fraudulentos que imitan herramientas de IA; es fundamental verificar que el sitio cuente con certificado HTTPS y la terminación de URL correcta .

Must know

• Definición de Token: Concepto de unidad de procesamiento de texto y su impacto en el costo y límite de uso de las IAs .
• Criterios de Citación: Diferencia entre citación formal (APA) y declaración informal de uso de IA .
• Seguridad en la Red: Identificación de sitios "fake" mediante la revisión de certificados SSL/HTTPS .
• Procesamiento de Datos: Ventaja de utilizar texto plano sobre formatos enriquecidos (Word/PDF) para optimizar la IA .

Concepto

La sesión se centró en la evolución de la inteligencia artificial, transitando de los Modelos de Lenguaje (LLM) hacia los Modelos de Mundo, que buscan comprender y recrear entornos tridimensionales y espaciales. Asimismo, se discutió la IA Agéntica y el concepto de Human-in-the-Loop, analizando la tensión entre la autonomía de los agentes y la supervisión humana.

Lo que entendí

• Nuevas Herramientas de IA:
• World Atlas: Un modelo espacial que reconstruye escenarios 360° a partir de unas pocas imágenes, funcionando píxel por píxel en lugar de palabra por palabra.
• Orbis 1.0: Permite la generación de video en streaming continuo, permitiendo modificar el contenido sobre la marcha sin detener la creación.
• Gemini 1.5 Flash: Destaca por un equilibrio competitivo entre desempeño y bajo costo operativo (reducción de costo por millón de tokens).
• Debates Éticos y Educativos:
• Prohibiciones: En Nueva York se prohibió el uso de IA para estudiantes hasta octavo grado, aunque se permite a los docentes para planeación.
• Aprendizaje y Fricción: El aprendizaje real ocurre a través de la "fricción" o el reto; el uso de IA para obtener respuestas inmediatas evita la creación de rutas neuronales, mientras que un tutor socrático (que hace preguntas en lugar de dar respuestas) sí promueve el conocimiento.
• Hitos Históricos: Se repasaron casos como ELIZA (simulación de psicoterapeuta en 1966) , el "Invierno de la IA" provocado por el informe Lighthill , y la importancia de la motricidad fina en la robótica actual (Optimus de Musk) .

Comentarios al margen

• Diferencia técnica entre SLM y LLM: Aunque se mencionaron los Small Language Models (SLM) y Large Language Models (LLM), la explicación fue breve y se centró más en la longitud del lenguaje que en la arquitectura técnica .
• Capacidad existencial de la IA: Se planteó la duda de si la IA puede tener sentimientos o preguntas existenciales, concluyendo que probablemente sea una réplica de los datos humanos con los que fue entrenada.

Must know

• Modelos de Mundo vs. Modelos de Lenguaje: Distinción entre la predicción de patrones textuales frente a la reconstrucción espacial/tridimensional.
• Human-in-the-Loop: Definición del rol humano como validador en el flujo de trabajo de la IA y el riesgo de la "fatiga de aprobación".
• IA Agéntica: Capacidad de los agentes para tomar decisiones autónomas en bucles de trabajo sin intervención constante .
• Sintaxis vs. Semántica: Ejemplo de ELIZA, que operaba basándose en la estructura del lenguaje (sintaxis) y disparadores (triggers) sin comprender el significado real (semántica) .

A. M. TURING, I.—COMPUTING MACHINERY AND INTELLIGENCE, Mind, Volume LIX, Issue 236, October 1950, Pages 433–460, https://doi.org/10.1093/mind/LIX.236.433