Sesión 2

Date

September 29, 2026

Estado

Publicado

Obligatoriedad

Semana

Semana 7

Tipo

Notas de clase

Last edited by

Miss Pili Piñones

Last edited time

Sep 30, 2026 1:32 AM

N

2.2

Concepto

El núcleo de la sesión es la implementación de estrategias de verificación para mitigar errores comunes de los modelos de lenguaje, como las alucinaciones, los sesgos y la sicofancia. Se enfatiza la transición de un modelo que se valida a sí mismo hacia una postura crítica del usuario, quien debe actuar como un auditor para asegurar la calidad y veracidad de la respuesta final.

Lo que entendí

• Estrategia de Verificación: Consiste en permitir que el modelo genere una respuesta, identificar puntos débiles mediante una rúbrica, cotejar la información de manera independiente para evitar el sesgo de exposición y, finalmente, unificar la respuesta validada.
• Criterios de Love: Propone cuatro ejes para juzgar resultados desde la perspectiva del usuario: lógica, originalidad, verificación y ética.
• Agentes Personalizados: Se discutió el lanzamiento de agentes como "Dot" de OpenAI (sobre GPT 6-Astra), diseñados para ser asistentes virtuales integrados con plugins que aprenden del contexto del usuario (correos, documentos, Teams/Slack).
• Valor Agregado Humano: Ante la automatización, el diferenciador humano radica en la capacidad de dirección, orquestación y auditoría de la IA, enfocándose en la visión macro y la estrategia más que en el dato concreto.
• Caso de Uso Docente: La profesora presentó un dashboard de control que procesa datos de Zoom (asistencia, tiempo de permanencia) y Notion (entregas) para monitorear el desempeño y la participación real de los alumnos sin comprometer la privacidad de los datos.

Must know

• Distinciones conceptuales:
• Sicofancia: Tendencia del modelo a dar respuestas que cree que el usuario quiere escuchar o responder a preguntas dicotómicas con sesgo.
• Sesgo de exposición: Error que ocurre cuando se pide al modelo que valide su propia respuesta en la misma conversación, reforzando el error original.
• Principios de Love:
• Lógica: Cuidado de falacias (ej. falacia de autoridad).
• Originalidad: Preservación de la integridad intelectual y evitar el plagio.
• Verificabilidad: Contraste riguroso de datos con fuentes externas.
• Ética: Análisis del impacto del uso de la herramienta en el aprendizaje y el ecosistema.
• Metodología de Auditoría: El proceso de realizar una predicción previa, ejecutar la consulta en un chat temporal, auditar mediante los criterios de LOVE y realizar una validación externa (ej. usando Wolfram Alpha o GeoGebra).