OpenAI: ¿Nuevos descubrimientos en inteligencia artificial, un riesgo para la humanidad?

OpenAI: ¿Nuevos descubrimientos en inteligencia artificial, un riesgo para la humanidad?

noviembre 23, 2023 Desactivado Por admin

OpenAI: ¿Nuevos descubrimientos en inteligencia artificial, un riesgo para la humanidad?

 

Investigadores han hecho innovaciones que les permitiría desarrollar modelos de inteligencia artificial mucho más potentes

Poco antes de que OpenAI despidiera a Sam Altman como su Director Ejecutivo (CEO), en el gigante tecnológico se había hecho un importante descubrimiento de inteligencia artificial que de acuerdo con los propios investigadores podría representar “un riesgo para la humanidad”.

Así lo advirtieron los expertos en una carta enviada al Consejo de Administración, de acuerdo con lo que han publicado por el medio especializado The Information y la agencia Reuters, que citan fuentes familiarizadas con el asunto, sin identificar, de acuerdo con lo publicado por El País este jueves.

Sam Altman fue despedido como consejero delegado a mediados de noviembre, pero no está claro si su salida tuvo alguna relación con lo señalado por los investigadores sobre el hallazgo en materia de IA. Altman regresará como director ejecutivo de la compañía.

Previo a su destitución, Altman participó en la cumbre de directivos celebrada en paralelo a la de la Asociación Económica Asia Pacífico (APEC), donde dijo: “cuatro veces en la historia de OpenAI, la más reciente hace solo un par de semanas, he tenido la oportunidad de estar en la sala en la que empujamos el velo de la ignorancia hacia atrás y la frontera del descubrimiento hacia delante, y poder hacerlo es el honor profesional de mi vida”.

En principio no se dio especial importancia al comentario de Altman ni se supo a qué desarrollos concretos aludía el ejecutivo.

Según The Information, algunos empleados de OpenAI creen que las palabras del directivo se referían a una innovación hecha por los investigadores de la empresa a principios de este año que les permitiría desarrollar modelos de inteligencia artificial mucho más potentes, según una persona familiarizada con el asunto.

El avance técnico, liderado por el científico jefe de OpenAI, Ilya Sutskever, suscitó la preocupación de algunos empleados por el hecho de que la empresa no dispusiera de las salvaguardias adecuadas para comercializar modelos de inteligencia artificial tan avanzados.