Detrás de herramientas como los chatbots actuales hay un principio de funcionamiento sorprendentemente simple: predecir la siguiente palabra. Explicamos qué hay detrás de esa simplicidad aparente.
Un modelo de lenguaje grande se entrena leyendo enormes cantidades de texto y aprendiendo, estadísticamente, qué palabra es más probable que siga a una secuencia dada. A partir de ese principio tan básico emergen capacidades como responder preguntas, resumir textos o escribir código, que en su momento sorprendieron a los propios investigadores del campo.
Este proceso de entrenamiento requiere cantidades masivas de datos y de capacidad de cálculo, concentradas en centros de datos especializados con miles de procesadores trabajando en paralelo durante semanas.
Una vez entrenado, el modelo no «sabe» hechos de la misma forma que una base de datos: genera texto plausible basándose en patrones aprendidos, lo que explica tanto su fluidez como su tendencia ocasional a generar afirmaciones incorrectas con total seguridad aparente —un fenómeno conocido como «alucinación».
Comprender esta diferencia entre generar texto probable y afirmar hechos verificados es clave para usar estas herramientas con el criterio adecuado.