Cuatro expertos en inteligencia artificial expresaron su preocupación después de que su trabajo fuera citado en una carta abierta, firmada junto con Elon Musk, que exigía una pausa urgente en la investigación.
La carta , fechada el 22 de marzo y con más de 1.800 firmas hasta el viernes, pedía un interrupción de seis meses en el desarrollo de sistemas “más potentes” que el nuevo GPT-4 de OpenAI respaldado por Microsoft (MSFT.O) , que puede mantenga una conversación similar a la humana, componga canciones y resuma documentos extensos.
Desde que se lanzó el año pasado el predecesor de GPT-4, ChatGPT, las empresas rivales se han apresurado a lanzar productos similares.
La carta abierta dice que los sistemas de IA con “inteligencia humana-competitiva” plantean profundos riesgos para la humanidad, citando 12 investigaciones de expertos, incluidos académicos universitarios, así como empleados actuales y anteriores de OpenAI, Google (GOOGL.O) y su subsidiaria DeepMind .
Desde entonces , grupos de la sociedad civil en los EE. UU . y la UE han presionado a los legisladores para que controlen la investigación de OpenAI. OpenAI no respondió de inmediato a las solicitudes de comentarios.
Los expertos en inteligencia articial citados opinan
Entre las investigaciones citadas se encontraba “Sobre los peligros de los loros estocásticos”, un conocido artículo escrito en coautoría por Margaret Mitchell, quien anteriormente supervisó la investigación ética de IA en Google.
Mitchell, ahora jefe científico ético de la firma de inteligencia artificial Hugging Face, criticó la carta y dijo a Reuters que no estaba claro qué se contaba con algo “más poderoso que GPT4”.
“Al tratar muchas ideas cuestionables como un hecho, la carta afirma un conjunto de prioridades y una narrativa sobre la IA que beneficia a los partidarios de FLI”, dijo. “Ignorar los daños activos en este momento es un privilegio que algunos de nosotros no tenemos”.
Sus coautores Timnit Gebru y Emily M. Bender criticaron la carta en Twitter, y esta última calificó algunas de sus afirmaciones como “desquiciadas”.
El presidente de FLI, Max Tegmark, dijo a Reuters que la campaña no era un intento de obstaculizar la ventaja corporativa de OpenAI.
“Es bastante divertido. He visto a personas decir: ‘Elon Musk está tratando de frenar la competencia'”, dijo, y agregó que Musk no participó en la redacción de la carta. “Esto no se trata de una empresa”.
Con información de Reuters
También puede leer en Punto de Corte
Mantente informado a través de nuestras redes Twitter, Instagram, Facebook y YouTube síguenos
