Hablando en el MIT a través de una videollamada el jueves, Altman se refirió a una carta firmada por Elon Musk, el cofundador de Apple Steve Wozniak y otros a finales de marzo y dijo: "Una versión anterior de la carta afirmaba que OpenAI está entrenando GPT-5. No lo estamos y no lo estaremos por algún tiempo"?.
La carta abierta había instado a los laboratorios a tomar al menos una pausa de seis meses en el desarrollo de la inteligencia artificial debido a los “profundos riesgos” para la sociedad. Altman dijo que estaba de acuerdo con partes de la carta y agregó que OpenAI "pasó más de seis meses después de que terminamos de entrenar GPT-4 antes de lanzarlo".
“Creo que avanzar con precaución y aumentar la rigurosidad en cuestiones de seguridad es realmente importante”, dijo Altman. "También estoy de acuerdo en que a medida que … las capacidades se vuelven cada vez más serias, la barra de seguridad debe aumentar.
“Pero estamos haciendo otras cosas además de GPT-4 que creo que tienen todo tipo de problemas de seguridad que son importantes de abordar y que quedaron totalmente fuera de la carta”, agregó Altman, aunque no se expandió en eso. Los comentarios de Altman fueron informados anteriormente por CNBC.
La carta abierta, publicada por el instituto sin fines de lucro Future of Life Institute, mencionó preocupaciones sobre los impactos imprevistos de la inteligencia artificial.
“Los sistemas de IA con inteligencia competitiva humana pueden representar riesgos profundos para la sociedad y la humanidad como lo demuestra una amplia investigación y reconocido por los principales laboratorios de IA”, decía la carta. "¿Deberíamos dejar que las máquinas inunden nuestros canales de información con propaganda y mentiras? ¿Deberíamos automatizar todos los trabajos, incluso los satisfactorios? ¿Deberíamos arriesgarnos a perder el control de nuestra civilización?"
La carta siguió al debut público a mediados de marzo del GPT-4 de OpenAI, una actualización del gran modelo lingüístico que alimenta al chatbot ChatGPT. Según OpenAI, GPT-4 tiene menos defectos, produce resultados más matizados y maneja tareas más complejas que las versiones anteriores. ChatGPT se basa en los enormes conjuntos de datos utilizados para entrenar GPT-4 para responder preguntas y realizar tareas, como aprobar el examen del colegio de abogados.
“En algún momento, puede ser importante obtener una revisión independiente antes de comenzar a entrenar sistemas futuros”, dice OpenAI en su propio sitio web.
A medida que OpenAI comienza a implementar complementos para ChatGPT, CNET ha desglosado ChatGPT, Bing y Google Bard para averiguar qué chatbot AI es el más útil. El gigante chino Alibaba también ha presentado un rival para ChatGPT, con capacidades tanto en chino como en inglés.
conversaciones de facebook