Yapay zeka şirketlerinden çağrı: Gelişimi yavaşlatmak zorundayız, kontrol edemiyoruz

Yapay zeka her geçen gün hayatımıza entegre oluyor.

Artık iş dünyası ve eğitimde yapay zeka vazgeçilmez bir ürün haline geldi.

Ancak yaşanan bu hızlı gelişim endişe ve tepkileri de beraberinde getiriyor.

Bu kapsamda iki önemli gelişme yaşandı.

SEKTÖR BİLİNÇLİ OLARAK YAVAŞLATILMALI

Claude yapay zeka sohbet aracının geliştiricisi ABD merkezli yapay zeka şirketi Anthropic’in CEO’su Dario Amodei, yapay zeka geliştirme yarışının mevcut hızının ciddi riskler doğurduğunu belirterek, sektörün bilinçli şekilde yavaşlatılması gerektiğini söyledi.

KONTROLÜ KAYBETME RİSKİ

Yapay zeka teknolojisinin insanların yaşam kalitesini inanılmaz bir şekilde artırmanın yanı sıra kendisinden önceki birçok teknoloji gibi riskler de getirdiğine dikkat çeken Amodei, “Bunların arasında yapay zeka sistemleri üzerindeki kontrolü kaybetme, yapay zekanın siber saldırılar ve biyoterörizm için kötüye kullanılması ve ciddi ekonomik bozulma riski bulunuyor.” diye yazdı.

“ZAMANI AKILLICA KULLANMAMIZ GEREKECEK”

Kendi internet sitesinde paylaştığı makalede Dario Amodei, “Yapay zeka modellerinin yeteneklerini geliştirme hızımızı yavaşlatmamız gerekiyor. Bu şekilde de ilerleme hızlı görünmeye devam edecektir. Bu şekilde kazandığımız zamanı ise akıllıca kullanmamız gerekecek.” dedi.

“DİKKATLİ BİR ŞEKİLDE YAPILMALI”

Yapay zekanın dinamik öz-iyileştirme özelliği kazanmasının oluşturduğu tehditlere dikkat çeken Amodei, “Kontrol edilmeden bırakılırsa, bu durum bu sistemleri anlama ve kontrol etme kapasitemizi aşabilir. Bu nedenle, ilerlemeyi sürdürmek gerekiyorsa bile bu, son derece dikkatli bir şekilde yapılmalı.” diye yazdı.

FELAKET TEORİSİ

Öte yandan, yapay zeka yeteneklerinin giderek hızlanan gelişimi göz önüne alındığında durumun ciddiyetine dikkat çeken Dario Amodei, “6-12 ay içinde kontrolden çıkmış yapay zeka ajanlarından oluşan böyle bir sürünün kalıcı bir botnet aracılığıyla tüm interneti ele geçirebilecek kapasiteye ulaşmasından ve potansiyel olarak yüz milyarlarca dolarlık zarara yol açmasından endişe ediyorum.” ifadelerini kullandı.

“GÖRÜŞÜNE KATILIYORUM”

Bu önemli açıklamaların ardından ABD merkezli yapay zeka şirketi OpenAI’ın Üst Yöneticisi (CEO) Sam Altman da sosyal medya hesabından, Amodei’ye destek verdi.

Altman, ilgili paylaşımında, “Dario’nun, sınır teknolojisi çalışmalarının hızını kontrollü bir şekilde ayarlamamız gerektiği yönündeki görüşüne katılıyorum.” ifadesini kullandı.

“BİZ DE AYNI UYGULAMAYI HAYATA GEÇİRECEĞİZ”

Bu konunun son haftalarda OpenAI’da yürütülen tartışmaların başlıca gündem maddelerinden biri olduğuna işaret eden Altman, “Çalışanlarla benzer düzeyde erişim yetkisine sahip bağımsız değerlendiricilerle çalışma taahhüdünde bulunmak harika bir fikir; biz de aynı uygulamayı hayata geçireceğiz. Yakında bu konuda daha fazla bilgi paylaşacağız.” görüşünü paylaştı.