¿Qué futuro para ChatGPT?

ChatGPT ha ocupado un lugar central desde su lanzamiento el 30 de noviembre, debido a sus impresionantes funciones, en particular para chatear y responder preguntas, incluso las más complejas, de una manera natural y realista.

A medida que comenzamos a tener una pequeña perspectiva sobre esta herramienta, surgen preguntas: ¿cuáles son los límites actuales y futuros de ChatGPT y cuáles son los mercados potenciales para este tipo de sistema?

ChatGPT es una inteligencia artificial capaz de comunicarse -por escrito- de una manera muy natural, lo que plantea muchas preguntas. studiostoks, persiana

ChatGPT, ¿un «asesino de Google»? No necesariamente…

ChatGPT a menudo se describe como un futuro competidor de Google, incluso como un «asesino de Google» por su parte de motor de búsqueda (un motor de búsqueda es una aplicación que permite encontrar recursos (páginas web,…): incluso si la herramienta a veces produce resultados extraños respuestas, incluso francamente falsas, responde de forma directa y no ofrece simplemente una lista ordenada de documentos, como el buscador (La investigación científica designa en primer lugar todas las acciones realizadas a la vista…) de Google.

Sin duda, existe un grave peligro potencial para Google, que podría amenazar su posición de monopolio virtual en los motores de búsqueda. Microsoft en particular (el principal inversionista en OpenAI, que de otro modo tiene acceso privilegiado a la tecnología (La palabra tecnología tiene dos significados de hecho:) desarrollada) está trabajando para integrar ChatGPT con su motor de búsqueda Bing, con la esperanza de tomar ventaja. sobre Google.

Sin embargo, existen varias incertidumbres en torno a tal perspectiva. Las consultas de los motores de búsqueda generalmente se componen de unas pocas palabras, o incluso de una sola palabra, como un evento o el nombre de una personalidad. Actualmente, ChatGPT está despertando la curiosidad de una población tecnófila, pero esto es muy diferente del uso tradicional y generalizado de un motor de búsqueda por parte del público.

También podemos imaginar ChatGPT accesible a través de una interfaz de voz, lo que evitaría tener que escribir la solicitud. Pero los sistemas como Alexa de Amazon han tenido problemas para establecerse y siguen confinados a usos específicos y limitados (preguntar por horarios de películas, el clima, etc.). Hace 10 años, Alexa se veía como el futuro de la distribuidora americana, pero hoy está un poco abandonada, porque Amazon nunca ha conseguido monetizar su herramienta, es decir, rentabilizarla económicamente.

¿Puede ChatGPT tener éxito donde Alexa fracasó parcialmente?

¿Otros frameworks de uso?

Por supuesto, el futuro de ChatGPT no debería consistir solo en encontrar información. Hay muchas otras situaciones en las que necesita producir texto: producción de cartas estándar, resúmenes, textos publicitarios…

ChatGPT también es una buena ayuda para escribir. Ya vemos diferentes usos: solicitar ChatGPT para partir de unos párrafos que puedan inspirar y evitar el miedo a página en blanco ; ver qué puntos plantea la herramienta sobre una determinada pregunta (para comprobar si se corresponde con lo que nosotros mismos hubiésemos dicho o no); pedir sugerencias de planes sobre un tema en particular. ChatGPT no es una herramienta mágica y no puede saber lo que el usuario tiene en mente, por lo que cuando se enfrenta a escribir un documento complejo, solo puede ser una ayuda.

Obviamente, podemos imaginar usos más problemáticos y ya se han publicado muchos artículos en la prensa sobre, por ejemplo, el uso de ChatGPT en la educación, con temores, justificados o no. Por lo tanto, podemos imaginar a los estudiantes haciendo deberes gracias a ChatGPT, pero también a los profesores que utilizan la herramienta para escribir sus evaluaciones o a los investigadores que producen artículos científicos de forma semiautomática. Hay muchas historias sobre estudiantes en la prensa, pero no serán los únicos que hagan un uso potencialmente problemático de este tipo de tecnología.

Por supuesto, hay preguntas que hacer, pero la tecnología está ahí y no va a desaparecer. Por tanto, parece fundamental hablar de ellos, y formar a los alumnos y alumnas en estas herramientas, explicar su interés y sus límites, y discutir el lugar que deben tener en la formación.

Finalmente, en el extremo del espectro de usos problemáticos, obviamente pensamos en la producción de noticias falsas: información falsa que luego puede difundirse en cantidad (cantidad es un término genérico en metrología (cuenta, monto); un escalar,. ..) industriales.

Estos peligros no deben exagerarse, pero son reales. Incluso si comienzan a aparecer detectores de texto producidos por ChatGPT, estos serán necesariamente imperfectos, porque los textos producidos son demasiado diversos y demasiado realistas para poder ser reconocidos al 100% por un sistema… excepto por la empresa OpenAI. ¡por supuesto!

Los límites de ChatGPT: cuando ChatGPT «alucina»

La gran cantidad de interacciones con ChatGPT desde que se abrió al público en general el 30 de noviembre ya ha identificado algunas de sus limitaciones.

ChatGPT generalmente proporciona respuestas correctas, a menudo fanfarroneando… pero si le preguntas sobre áreas que no domina, o incluso si te inventas una pregunta que parece seria pero en realidad es absurda (por ejemplo, sobre hechos o personas que no existen), el sistema produce una respuesta que parece ser igual de grave, pero que en realidad es completamente (Completo o completamente automático, o por anglicismo compleción o…) absurdo o inventado.

Los ejemplos en Twitter son legión: ChatGPT ofrece referencias científicas que no existen, explicaciones confusas, incluso una demostración (En matemáticas, una demostración permite establecer una proposición a partir de…) donde se postula que -4 = -5 . Esto sería una riqueza, si ChatGPT fuera solo una herramienta destinada a producir historias (Las Historias o la Investigación (en griego antiguo…), pastiches o parodias.

Pero lo que el público espera es sobre todo respuestas comprobadas a preguntas reales, o la ausencia de respuesta en caso contrario (si el sistema no encuentra la respuesta, o si la pregunta es absurda). Esta es la principal debilidad de la herramienta y, por lo tanto, probablemente también el principal obstáculo para que sea un competidor del motor de búsqueda de Google, como ya hemos visto.

Por eso, una conferencia como la ICML (International Conference on Machine Learning) ya prohibió a los investigadores enviar artículos producidos en parte con ChatGPT. Stackoverflow, una plataforma para intercambios entre desarrolladores de TI, también prohibió las respuestas generadas por ChatGPT, por temor a verse abrumado por una avalancha de respuestas generadas automáticamente (y en parte falsas).

Esto se debe a que el sistema no tiene un «modelo mundial». En otras palabras, no sabe lo que es verdad, puede generar tonterías, información falsa, inventar cosas desde cero con el aplomo de un mentiroso profesional. Esto se llama «alucinaciones», como si ChatGPT viera elementos imaginarios (de hecho, no se puede decir realmente que el sistema está mintiendo, ya que no tiene un modelo de verdad).

Esto es especialmente cierto cuando la pregunta misma no se vuelve hacia la realidad, en cuyo caso el sistema comienza a inventar: en este sentido, GPT no es ni un periodista ni un académico, sino un narrador de historias.

Es una apuesta segura que OpenAI intentará en futuras versiones proporcionar un sistema que evite fabricar cuando el contexto no se presta para ello, gracias a un análisis detallado de la pregunta realizada, o la adición de conocimiento validado (como ya lo hace Amazon). con Alexa o Google con su gráfico de conocimiento, que es simplemente una base de conocimiento).

Google, precisamente, a través de su sucursal Deepmind, actualmente está trabajando en un modelo similar a ChatGPT llamado Sparrow, tratando de reforzar la confiabilidad del sistema. Es por ejemplo pregunta que el sistema proporciona una lista de fuentes en las que se basa para dar una respuesta.

Retos para el mañana

La otra limitación de este sistema es que se basa en datos (básicamente todos los textos disponibles en Internet) a mediados de 2021 y su conocimiento no se puede actualizar en vivo. Obviamente, esto es un problema, ChatGPT no puede responder de manera relevante a las preguntas sobre eventos actuales, mientras que este es un aspecto particularmente importante.

La actualización continua del modelo es por tanto lógicamente uno de los próximos objetivos de OpenAI, que no lo oculta. Revisar un modelo, volver a entrenarlo «desde cero» es un proceso largo y costoso, que puede implicar miles de GPU o TPU durante varias semanas o varios meses, lo que no está a la altura de la velocidad de las noticias. La próxima gran innovación consistirá, por tanto, en sistemas capaces de actualizarse de forma más localizada en tiempo real (o casi), y esto probablemente llegue pronto.

Pero el problema principal es obviamente el de la aceptabilidad. Como hemos visto, ya ha comenzado el debate sobre la influencia de tal sistema en la educación. De manera más general, si un sistema como ChatGPT se integra, por ejemplo, con un software como Word, también surgirá la pregunta de quién controla lo que se produce. Existe un camino estrecho entre los sistemas de IA que no están suficientemente controlados y son capaces de producir contenidos racistas u homofóbicos, y los sistemas que están demasiado restringidos y que prohibirían la producción de determinados contenidos.

En conclusión, y como dice el dicho popular: es difícil hacer predicciones, sobre todo cuando se trata del futuro. Hay muchas incógnitas en torno a las tecnologías similares a ChatGPT: las perspectivas de este tipo de herramientas son bastante vertiginosas, es probable que tengan un profundo impacto en la sociedad, pero al mismo tiempo su potencial real y comercial tendrá que pasar la prueba del mundo real.

Lo cierto es que las convulsiones actuales deberían fomentar el desarrollo de institutos (dentro de las universidades, pero también a través de fundaciones o asociaciones capaces de llegar al público en general) que permitan una reflexión amplia y abierta sobre estas tecnologías, involucrando a todos los actores de la sociedad, porque es la sociedad en su conjunto que ya está afectada, como lo demuestra el interés actual en torno a ChatGPT.

¿Te ha gustado este artículo? ¿Quieres apoyarnos? Compártelo en las redes sociales con tus amigos y/o coméntalo, ¡esto nos animará a publicar más temas similares!

Deja un comentario