[responsivevoice_button voice=”Spanish Latin American Female” buttontext=”Escuchar”]
Un grupo de expertos liderados por Elon Musk están pidiendo a los laboratorios encargados del desarrollo de modelos de inteligencia artificial que detengan el entrenamiento de sistemas más potentes que GPT-4. En una carta abierta, Musk y más de 1.100 personas afirman que estos modelos podrían tener “efectos potencialmente catastróficos para la sociedad”.
Además, la carta explica que se deberían crear únicamente modelos de IA una vez que esté seguro de que sus efectos serán positivos y sus riesgos serán manejables.
En la carta, los expertos detallan que los modelos de IA se están volviendo competitivos contra el ser humano.
Se preguntan si realmente es necesario que estos sustituyan a las personas en diferentes tareas y tomen “el control de nuestra civilización”. Además, solicitan detener durante al menos seis meses cualquier tipo de entrenamiento de sistemas de IA más potentes que GPT-4.
Esta pausa se utilizaría para desarrollar una serie de protocolos de seguridad compartidos supervisados por “expertos externos independientes”.
Por otro lado, Musk y los ejecutivos afirman que esta medida no significa que se detenga temporalmente el desarrollo de la IA en general, sino que es “un paso atrás” en la carrera del desarrollo de modelos de gran tamaño.
Entre los firmantes de la carta se encuentran ejecutivos de la industria, como Steve Wozniak, cofundador de Apple, y O Emad Mostaque, CEO de Stability AI, entre otros. Curiosamente, no se encuentra Sam Altman, máximo responsable de OpenAI, ni ningún otro miembro de la compañía que ha desarrollado GPT-4.
En conclusión, Musk y expertos en inteligencia artificial están solicitando una pausa en el entrenamiento de sistemas de IA más potentes que GPT-4 debido a los posibles riesgos catastróficos que pueden generar en la sociedad.
Esta pausa se utilizaría para desarrollar protocolos de seguridad compartidos y supervisados por expertos independientes. Los ejecutivos afirman que esto no significa detener el desarrollo de la IA en general, sino un paso atrás en la carrera del desarrollo de modelos de gran tamaño.
