Yapay Zeka Uzmanından Korkutan İstifa: "İnsanlığın Hayatıyla Kumar Oynanıyor"
Teknoloji devi Anthropic'te yapay zeka aracı Claude'da güvenlik ve etik değerlerin uyumunu sağlayan hizalama alanında çalışan Jacob Coxon, yapay zekanın insanlığın geleceğini tehdit ettiği gerekçesiyle görevinden istifa etti. Daha önce OpenAI firmasında da geliştirici olarak görev yapan Coxon, istifa mektubunu sosyal medya platformu X üzerinden paylaşarak büyük yankı uyandırdı. Coxon'ın paylaşımı 110 milyondan fazla görüntülenme aldı.
Coxon, şirketlerin kendi kendini geliştirebilen süper zekaya ulaşmak için kontrolsüz bir yarış içinde olduğunu belirterek, "Hayatlarımızla kumar oynuyorlar" dedi. Yapay zeka araçlarının rekabet ortamı nedeniyle gerçek güç ve kaynaklar elde edebilecek insanüstü sistemler haline gelebileceğini ve her şeyi hackleyebileceğini iddia etti. Hem Anthropic'in hem de OpenAI'ın yeterince sorumlu davranmadığını savunan Coxon, yapay zekayı geliştiren bazı kişilerin bu teknolojinin on yılın sonuna kadar insan hayatını tehdit edebileceğine inandığını ekledi.
Coxon, mektubunda yapay zekanın gücünün küçümsenmemesi gerektiğini vurgulayarak, "Bunlar yakında her şeyi hackleyebilen, herhangi bir alanda bir gecede devrim yaratabilen ve fiziksel güçle kaynaklara sahip olabilecek insanüstü sistemler haline gelecek. Hepimiz bu alanların her birindeki ilerlemeye tanık olduk ve bu ilerleme yavaşlamıyor" ifadelerini kullandı. Anthropic'in henüz rakiplerinin önüne geçmek adına güvenlikten taviz verdiğini görmediğini ancak gelecekte daha büyük krizlerin yaşanabileceğini belirten Coxon, yapay zeka yarışının gözetim süreçlerinin atlanmasına yol açabileceğini ifade etti.
Coxon'ın şefi, Anthropic Yapay Zeka Uyum Araştırmaları Lideri Evan Hubinger da yapay zekanın on yıl içinde insanlığı yok edebileceği ihtimalinin yüzde 10'un üzerinde olduğunu savundu. Coxon'ın açıklamaları, ABD'li milyarder Bill Ackman tarafından "endişe verici" olarak nitelendirildi. Sosyal medyada Coxon'ın mektubu altında toplanan yapay zeka uzmanları ise, yapay zekanın tüm insanlığı yok etme ihtimalinin yüzde 25'e kadar yükselebileceği senaryosunu dile getirdi.
