Elon Musk y co-firmantes exigen pausa en la investigación de IA
Controversia sobre carta que exige pausa en la investigación de IA Musk y co-firmantes piden pausa de seis meses en el desarrollo de IA Elon Musk y un grupo de más de 1,800 personas, incluyendo al co-fundador de Apple Steve Wozniak y el científico cognitivo Gary Marcus, co-firmaron una carta exigiendo una pausa de seis meses en el desarrollo de sistemas de inteligencia artificial más poderosos que el GPT-4 de OpenAI. La carta citó los posibles riesgos que plantea la IA con «inteligencia competitiva humana» y pidió protocolos de seguridad para el diseño y desarrollo de IA avanzada que sean rigurosamente auditados y supervisados por expertos independientes externos. Sin embargo, algunos investigadores cuyo trabajo fue citado en la carta expresaron preocupación de que su investigación se haya utilizado para hacer tales afirmaciones, y algunos firmantes resultaron ser falsos o más tarde retiraron su apoyo. Los investigadores condenan el uso de su trabajo en la carta La carta fue coordinada por el Instituto del Futuro de la Vida (FLI), un grupo de reflexión que ha recibido financiamiento de la fundación de Musk. Los críticos han acusado al FLI de priorizar escenarios apocalípticos imaginarios sobre preocupaciones más inmediatas sobre la IA, como los sesgos racistas o sexistas que se programan en las máquinas. Mientras tanto, los investigadores argumentan que ya existen riesgos graves planteados por el uso actual de la IA, incluida su capacidad para influir en la toma de decisiones relacionadas con el cambio climático, la guerra nuclear y otras amenazas existenciales. Las posibilidades del desarrollo de la IA La controversia destaca el debate en curso sobre el desarrollo de la IA y sus posibles riesgos para la sociedad. Mientras que algunos argumentan por un enfoque cauteloso y una mayor supervisión, otros enfatizan los posibles beneficios de la IA y la necesidad de seguir avanzando en la tecnología. Como con cualquier nueva tecnología, existen riesgos y beneficios que deben sopesarse cuidadosamente, y depende de los responsables políticos, investigadores y el público determinar el mejor camino a seguir.
