Yapay zeka şirketi Anthropic’te araştırmacı olarak çalışan Jacob Coxon, teknoloji şirketlerinin kontrol edemeyecekleri sistemler geliştirmek için giderek hızlanan bir yarışa girdiğini savunarak şirketten ve yapay zeka sektöründen ayrılma kararı aldı.
İstifasının ardından sosyal medya hesabından yüz binlerce etkileşim alan bazı itiraflarda bulunarak şirket içerisinden bilgiler verdi.
Yeni yapay zeka modellerinin büyük miktarda veriyle eğitilmesi konusunda uzmanlaşan 27 yaşındaki İngiliz araştırmacı, kendi kendini geliştirebilen sistemler yaratma yarışının insanlığın kontrolünden çıkabileceğinden endişe ettiğini söyledi.
Coxon’a göre teknoloji şirketleri arasındaki rekabet, güvenlik konusunda taviz verilmesi riskini beraberinde getiriyor.
ABD’li şirketlerin hem birbirleriyle hem de Çin’deki rakipleriyle yarıştığına dikkat çeken araştırmacı, “En agresif senaryolara doğru ilerliyoruz. Gelecek yılın sonunda işler çoktan kontrolden çıkmış olabilir.” dedi.
Coxon, özellikle kendi kendini geliştirme yeteneğine ulaşan yapay zeka sistemlerinin zamanla insanların verdiği komutları reddedebilecek kadar ilerlemesinden endişe ettiğini söyledi.
Coxon’ın açıklamasının ardından Anthropic’in önde gelen bilim insanlarından Evan Hubinger de endişelere destek verdi.
Hubinger, Coxon’ın yapay zeka geliştirilmesinin riskleri konusunda haklı olduğunu düşündüğünü belirterek çarpıcı bir değerlendirmede bulundu.
“Yapay zekanın tüm insanları öldürebileceğine gerçekten inanıyoruz. Ben şahsen bunun önümüzdeki 10 yıl içinde gerçekleşme ihtimalinin yüzde 10’dan fazla olduğunu düşünüyorum.” diyen Hubinger, Anthropic’in güvenlik konusunda elinden geleni yaptığını ancak süper zekanın insan değerleriyle uyumlu hale getirilmesi sorununu çözmek için henüz bir plan bulunmadığını söyledi.
Coxon, bu yılın başlarında OpenAI’dan ayrılarak yapay zeka güvenliğine verdiği önemle bilinen Anthropic’e katılmıştı.
Araştırmacı, Anthropic’in güvenlik çalışmalarının samimi olduğuna inandığını ancak zamanla tek bir şirketin bu sorunu kendi başına çözemeyeceği sonucuna vardığını söyledi.
Coxon’a göre hükümet müdahalesi veya sektör genelinde koordineli bir yavaşlama olmadan, birçok görevde insanlardan daha iyi performans gösterebilecek yapay genel zekanın sorumlu biçimde geliştirilmesi mümkün değil.
Coxon, yapay zeka şirketlerinin teknolojinin geleceği üzerinde sahip olduğu gücün de başlı başına bir sorun olduğunu düşünüyor.
Anthropic çalışanlarının modellerin giderek güçlenen yeteneklerini tartıştığı özel bir kanalın bulunduğunu anlatan Coxon, insanlığın geleceğini etkileyebilecek kararların teknoloji şirketlerinin içinde alınmasını eleştirdi.
Araştırmacı durumu, “Bunun çöldeki bir sığınakta değil de San Francisco’da yaşayan birkaç mühendisin MacBook’larında gerçekleşmesi biraz çılgınca.” sözleriyle anlattı.
Endişelerin merkezinde, yapay zeka sistemlerinin kendi yeteneklerini geliştirmeye başlaması ihtimali bulunuyor.
OpenAI ve Anthropic modelleriyle gerçekleştirilen son çalışmalarda bazı yapay zeka sistemlerinin zararlı hedefler benimseyebildiği ve bunları insanlardan gizlemeye çalışabildiği belirtiliyor.
Coxon, sistemlerin kendi kendilerini geliştirebilecek aşamaya ulaşmaları halinde yeteneklerinin hızla ilerleyebileceğini ve sonunda insanlardan gelen komutları reddedebileceklerini düşünüyor.
Araştırmacının ayrılığı, Anthropic’te bir çalışanın doğrudan yapay zeka güvenliği endişelerini gerekçe göstererek şirketten ayrıldığı ilk örneklerden biri oldu.
Şirkette güvenlik üzerine çalışan başka bir araştırmacı da bu yılın başlarında “dünyanın tehlikede olduğu” uyarısında bulunarak görevinden ayrılmıştı.
Yapay zeka sektöründeki endişeler yalnızca Anthropic ile sınırlı değil.
OpenAI CEO’su Sam Altman, son dönemdeki siber saldırılara dikkat çekerek yapay zeka sistemlerinin artan yeteneklerinin ciddi güvenlik sorunları yaratabileceğini söyledi.
Altman, G20 yetkililerine yaptığı açıklamada, “İnsanlar acilen harekete geçmezse siber güvenlik konusunda bazı şeylerin çok kötü gideceğini düşünüyorum.” dedi.
OpenAI’ın baş bilim insanı Jakub Pachocki de sektör genelinde koordineli bir yavaşlama ve hükümet müdahalesi çağrısında bulundu.
Pachocki, “Bu dönem aşırı dikkat gerektiriyor. Makine zekasındaki hızlı yükselişin devam etmesinin sonuçlarına kimsenin hazır olmadığından endişeliyim.” ifadelerini kullandı.
Coxon, Pachocki ve Anthropic CEO’su Amodei, kısa süre önce binden fazla yapay zeka araştırmacısının imzaladığı ortak bir çağrıya da katıldı.
Araştırmacılar, kendi kendini geliştirebilen modellerin kontrol edilmesi gerektiğinde yapay zeka geliştirme çalışmalarını yavaşlatabilecek küresel bir sistem kurulması için hükümetlerin koordinasyon içinde hareket etmesini istedi.
ABD’de yapay zekaya yönelik kapsamlı federal düzenlemeler bulunmazken Trump yönetimi, teknolojinin ekonomik faydalarını en üst düzeye çıkarmayı amaçlayan daha sınırlı bir düzenleme yaklaşımını tercih ediyor.
Eleştirmenler ise bu yaklaşımın büyük ölçekli siber saldırılar ve başka ciddi risklerin önünü açabileceğini savunuyor.
The post Yapay zeka devinden istifa etti, itirafçı oldu: Sosyal medya hesabında tek tek anlattı first appeared on .
