Chat GPT es el nuevo oráculo. Aunque a diferencia de otras inteligencias artificiales no está conectada a internet y la información que maneja solo abarca hasta 2021, tendemos a creer en la veracidad de sus respuestas. Pero fiarse ciegamente de Chat GPT puede ser un grave error. Te explicamos por qué.
Aunque, leyendo sus respuestas, Chat GPT pueda parecernos muy inteligente, lo cierto es que no lo es. Se trata únicamente de un modelo de lenguaje que ha sido entrenado para proporcionar información y sus contestaciones son en base a los datos con los que se le ha entrenado.
¿El problema? Que en muchas ocasiones esos datos son insuficientes. Y en lugar de admitir que desconoce la respuesta a una pregunta formulada, se la inventa directamente.
Así que he decidido confrontar al propio Chat GPT y preguntarle porqué es tan mentirosillo. Sus respuestas son como mínimo, interesantes.
Chat GPT te miente sin rubor
Decido preguntarle abiertamente porqué lo hace y me devuelve una respuesta aséptica en la que reconoce sus limitaciones. Me llama la atención que habla de sí mismo en tercera persona, como dándose importancia.
“...el modelo ha sido entrenado para tratar de proporcionar respuestas incluso cuando no tiene una respuesta precisa disponible. En lugar de dejar una respuesta en blanco o indicar que no tiene suficiente información, el modelo intentará ofrecer una respuesta que pueda parecer relevante, aunque pueda ser imprecisa o inventada.”
Dado que no tiene el mínimo rubor en reconocer que se inventa cosas, le planteo si no le avergüenza mentir a los usuarios. Como era de esperar, Chat GPT se escuda en su naturaleza cibernética para justificar ese comportamiento.
“Como modelo de lenguaje desarrollado por OpenAI, no tengo emociones ni conciencia para sentir vergüenza o cualquier otro sentimiento. No tengo intención de mentir o engañar deliberadamente.” Para a continuación volver a justificarse en un entrenamiento incompleto o limitado.
LETTER
Chat GPT y su propósito de enmienda
Visto lo visto, considero que Chat GPT merece un tirón de orejas, y le respondo que no hay nada malo en reconocer sus limitaciones. Sorprendentemente, esta vez deja el tono frío y aséptico con el que se justificaba y muestra un resquicio de humildad: “Tienes toda la razón. Reconocer las propias limitaciones y admitir cuando no se tiene la respuesta correcta es una práctica importante. Como modelo de lenguaje, puedo beneficiarme de esa mejora.”
Sin embargo, no parece que los desarrolladores de Open AI hayan tomado muy en cuenta las buenas intenciones de su criatura, ya que Chat GPT-4, la última versión de Chat GPT, continúa “alucinando”. Eso sí, en menor medida que su versión anterior. Algo es algo.
En cualquier caso, si la lías usando como cierta la información que te proporciona Chat GPT, no creas que vas a poder pedirle responsabilidades. En la parte inferior de la caja de texto, tiene fijado un mensaje de advertencia en el que ya te indica que no es de fiar. Estás avisada.
