Muchos investigadores especializados en inteligencia artificial (IA) han firmado conjuntamente una carta que denuncia la carrera de IA en la que se han embarcado muchas empresas tecnológicas. El texto reúne más de 1.000 firmas, incluida la de un tal Elon Musk.
Una carrera frenética en detrimento de la humanidad.
El lanzamiento de ChatGPT en noviembre de 2022 cambió por completo la industria tecnológica. A través de su enorme inversión en OpenAI, Microsoft está aprovechando esta tecnología y la está introduciendo en su motor de búsqueda, así como en sus herramientas de escritorio.
En la misma categoría
Lina Khan, presidenta de la FTC, advierte a las grandes tecnológicas sobre la IA
Por temor a ser superado, Google tomó represalias al introducir su propia IA generativa en su suite Workspace, así como un complemento para la Búsqueda de Google. Este entusiasmo está afectando a muchas otras empresas, que están integrando rápidamente la IA en sus productos.
Este mercado emergente se ha vuelto competitivo muy rápidamente.. Esto empuja a sus actores a permanecer en secreto sobre su tecnología. Como ejemplo, OpenAI no ha compartido detalles de cómo se creó GPT-4, ni sus datos de entrenamiento. “En los últimos meses, los laboratorios de IA han estado en una carrera frenética para desarrollar e implementar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, puede comprender, predecir o controlar de manera confiable “Escribe los firmantes de la carta.
Según ellos, «los potentes sistemas de IA sólo deberían desarrollarse cuando estamos seguros de que sus efectos serán positivos y que sus riesgos serán manejables ».
Una pausa para reenfocar la investigación
Los investigadores abogan por una pausa en el desarrollo de inteligencias artificiales avanzadas: «Pedimos a todos los laboratorios de IA detener de inmediato, durante al menos seis meses, el entrenamiento de sistemas de IA más potentes que GPT-4. Este descanso debe ser público y verificablee incluir a todos los jugadores clave”.
Recomiendan además que la investigación en el campo se vuelva a centrar en «mejorar la precisión, la seguridad, la interpretabilidad, la transparencia, la solidez, la alineación, la confiabilidad y la lealtad».
Finalmente, los firmantes piden estrecha colaboración entre los responsables políticos y los desarrolladores establecer un sistema de gobernanza para esta tecnología. “La IA puede ofrecer a la humanidad un futuro floreciente”, creen, siempre que se detenga su desarrollo para repensar adecuadamente los contornos de la investigación. El objetivo es «diseñar sistemas para el mayor beneficio de todos que le darán a la sociedad la oportunidad de adaptarse».
Signatarios reconocidos
Entre los firmantes se encuentran Steve Wozniak, cofundador de Appleel co-fundador de Skype Jaan Tallin, así como una serie de conocidos investigadores y directores ejecutivos de IA, incluidos Stuart Russell, Yoshua Bengio, Gary Marcus y Emad Mostaque. Sin sorpresa, Elon Musk también es uno de ellos.. El multimillonario ha expresado en repetidas ocasiones sus temores sobre la inteligencia artificial, y ha sido muy crítico con ChatGPT y el vínculo entre OpenAI y Microsoft.
Por cierto, el propio OpenAI se ha declarado a favor de una “revisión independiente” de los futuros sistemas de IA para asegurarse de que cumplen con los estándares de seguridad. Los firmantes creen que ha llegado el momento. Si bien es poco probable que se implemente la interrupción solicitada, la carta tiene el potencial de despertar el interés de algunos legisladores a quienes les gustaría regular aún más la tecnología.