Notas Sesión 1

Date

September 28, 2026

Estado

Publicado

Obligatoriedad

Semana

Semana 7

Tipo

Notas de clase

Last edited by

Miss Pili Piñones

Last edited time

Sep 29, 2026 4:24 AM

N

1

Concepto

El núcleo de la sesión es entender que la inteligencia artificial no "piensa" ni posee un criterio de verdad intrínseco, sino que realiza cálculos probabilísticos para predecir el siguiente token basándose en su ventana de contexto. Por ello, es fundamental desarrollar una alfabetización crítica que permita al usuario humano validar la información y mitigar errores como las alucinaciones.

Lo que entendí

• Naturaleza del "pensamiento" en IA: Lo que parece razonamiento es en realidad una serie de cálculos rápidos de supercómputo para determinar la palabra más probable.
• El problema de la Verdad:
• Ni la IA ni los humanos poseen un criterio de verdad único y absoluto.
• Se discutieron posturas filosóficas: la aristotélica (correspondencia con la realidad), la platónica (mundo de las ideas/abstracto) y la escéptica (imposibilidad de acceder a la verdad absoluta).
• En ciencia, se utiliza la intersubjetividad: la construcción de objetividad mediante el acuerdo crítico de una comunidad.
• Sesgo de Exposición y Colas Largas:
• El sesgo de exposición ocurre cuando un error temprano en la generación de texto contamina el resto de la respuesta, creando un "efecto bola de nieve".
• La precisión es mayor en la zona de cabeza (hechos frecuentes) y disminuye en la cola larga (temas de nicho o textos muy extensos), donde aumenta la probabilidad de alucinaciones.
• Metodología de Cadena de Verificación:
• Proceso de 4 pasos: 1) Generar respuesta base, 2) Planificar verificaciones, 3) Ejecutar verificaciones y 4) Generar respuesta final verificada .
• La variante factorizada es más efectiva porque aísla las consultas para evitar que el modelo repita sus propias alucinaciones y evita la sicofancia (tendencia de la IA a dar la razón al usuario).

Podría aparecer en el examen

• Sesgo de Exposición: Definirlo como la amplificación del error debido a la integración de tokens incorrectos en la ventana de contexto.
• Zonas de Precisión: Distinguir entre la Zona 1/Cabeza (alta precisión/frecuencia) y la Cola Larga (baja precisión/alucinaciones).
• Sicofancia: Identificarla como el riesgo de usar preguntas cerradas (sí/no) que inducen a la IA a validar el sesgo del usuario.
• Enfoques de Alfabetización Crítica: Diferenciar entre la mejora desde el software (arquitectura/cadenas de verificación) y desde el usuario (uso crítico y validación humana) .