OpenAI dice que ha comenzado a entrenar un nuevo modelo emblemático de IA – MundoDaily

OpenAI dijo el martes que comenzó a entrenar un nuevo modelo emblemático de inteligencia artificial que sucedería a la tecnología GPT-4 que impulsa su popular chatbot en línea, ChatGPT.

La nueva empresa de San Francisco, que es una de las principales empresas de inteligencia artificial del mundo, dijo en una publicación de blog que espera que el nuevo modelo aporte «el siguiente nivel de capacidades» mientras se esfuerza por construir «inteligencia general artificial» o AGI. , una máquina que puede hacer todo lo que puede hacer el cerebro humano. El nuevo modelo sería un motor para productos de inteligencia artificial, incluidos chatbots, asistentes digitales similares a Siri de Apple, motores de búsqueda y generadores de imágenes.

OpenAI también dijo que estaba creando un nuevo Comité de Seguridad para explorar cómo debería abordar los riesgos planteados por el nuevo modelo y las tecnologías futuras.

«Si bien estamos orgullosos de construir y lanzar modelos que son líderes en la industria en términos de capacidades y seguridad, damos la bienvenida a un debate sólido en este momento importante», dijo la compañía.

OpenAI tiene como objetivo hacer avanzar la tecnología de IA más rápido que sus rivales, al tiempo que apacigua a los críticos que dicen que la tecnología se está volviendo cada vez más peligrosa, ayudando a difundir información errónea, desplazando empleos e incluso amenazando a la humanidad. Los expertos no están de acuerdo sobre cuándo las empresas de tecnología se pondrán al día con la inteligencia artificial general, pero empresas como OpenAI, Google, Meta y Microsoft han estado aumentando constantemente el poder de las tecnologías de IA durante más de una década, demostrando un salto notable aproximadamente cada dos o tres años.

GPT-4 de OpenAI, lanzado en marzo de 2023, permite que los chatbots y otras aplicaciones de software respondan preguntas, escriban correos electrónicos, generen trabajos finales y analicen datos. Una versión actualizada de la tecnología, lanzada este mes y aún no ampliamente disponible, también puede generar imágenes y responder a preguntas y órdenes con una voz muy conversacional.

Días después de que OpenAI mostrara la versión actualizada, llamada GPT-4o, la actriz Scarlett Johansson dijo que usaba una voz que sonaba “inquietantemente similar a la mía”. Dijo que rechazó los esfuerzos del director ejecutivo de OpenAI, Sam Altman, de licenciar su voz para el producto y que contrató a un abogado y le pidió a OpenAI que dejara de usar la voz. La compañía dijo que la voz no era la de Johansson.

Las tecnologías como GPT-4o aprenden sus habilidades analizando grandes cantidades de datos digitales, incluidos sonidos, fotografías, vídeos, artículos de Wikipedia, libros y noticias. El New York Times demandó a OpenAI y Microsoft en diciembre, alegando infracción de derechos de autor de contenido de noticias relacionado con sistemas de inteligencia artificial.

“Entrenar” modelos de IA digitalmente puede llevar meses o incluso años. Una vez finalizada la formación, las empresas de IA suelen dedicar unos meses más a probar la tecnología y afinarla para uso público.

Esto podría significar que el próximo modelo de OpenAI no llegará hasta dentro de nueve meses o un año aproximadamente.

Mientras OpenAI entrena su nuevo modelo, su nuevo comité de Seguridad trabajará para mejorar las políticas y procesos para proteger la tecnología, dijo la compañía. El comité incluye al Sr. Altman, así como a los miembros de la junta directiva de OpenAI, Bret Taylor, Adam D’Angelo y Nicole Seligman. La compañía dijo que las nuevas políticas podrían entrar en vigor a finales del verano o en el otoño.

A principios de este mes, OpenAI dijo que Ilya Sutskever, cofundador y uno de los líderes de sus esfuerzos de seguridad, dejaría la empresa. Esto generó preocupación de que OpenAI no estuviera lidiando lo suficiente con los peligros que plantea la IA.

Sutskever se unió a otros tres miembros de la junta directiva en noviembre para sacar a Altman de OpenAI, diciendo que ya no se podía confiar a Altman el plan de la compañía para crear inteligencia artificial general para el bien de la humanidad. Después de una campaña de lobby por parte de los aliados de Altman, fue reintegrado cinco días después y desde entonces ha reafirmado el control de la empresa.

Sutskever dirigió lo que OpenAI llamó el equipo Super Alignment, que exploró formas de garantizar que los futuros modelos de IA no causen daño. Al igual que otros profesionales en el campo, le preocupaba cada vez más que la IA representara una amenaza para la humanidad.

Jan Leike, que dirigió el equipo de Superalignment con el Dr. Sutskever, renunció a la empresa este mes, dejando en duda el futuro del equipo.

OpenAI ha centrado su investigación de seguridad a largo plazo en esfuerzos mayores para garantizar que sus tecnologías sean seguras. Este trabajo estará dirigido por John Schulman, otro cofundador, que anteriormente dirigió el equipo que creó ChatGPT. El nuevo comité de seguridad supervisará la investigación del Dr. Schulman y brindará orientación sobre cómo la empresa abordará los riesgos tecnológicos.