OpenAI/Altman: Yapay zeka risklerine karşı yeni kurallar getirilmeli

OpenAI CEO’su Sam Altman, ABD’li milletvekillerini hızla gelişen yapay zeka teknolojisini düzenlemeye çağırdı ve bunun önümüzdeki yıl ABD seçimleri öncesinde “etkileşimli dezenformasyon” sağlama potansiyeline ilişkin endişeleri olduğunu belirtti.

Altman, Salı günü gizlilik, teknoloji ve yasa ile ilgili ABD Senatosu alt komitesi önünde gerçekleştirilen bir duruşmada gelişmekte olan teknolojinin düzenlenmesini memnuniyetle karşıladıklarını ve bağımsız denetimler, lisans verme uygulaması çağrısında bulundu.

Altman’a ayrıca senatörler tarafından yapay zekanın yaklaşan seçimlerle ilgili olarak kamuoyunu tahmin etme ve etkileme yeteneği hakkında sorular soruldu.

“Seçimleri etkileme yeteneği makul bir endişe alanı”

“Bu modellerin genel yeteneği birebir etkileşimlerde dezenformasyon sağlama manipüle etme, ikna etmek. Gelecek yıl bir seçimle karşı karşıya kalacağımızı ve bu modellerin daha iyi hale geldiğini düşünürsek bunun önemli bir endişe alanı olduğunu düşünüyorum” dedi.

Altman, milletvekillerini, bu teknolojiyi sunan şirketler için “ifşa açısından beklenenler hakkında yönergeler” oluşturmaya çağırdı. Bununla birlikte, kamuoyunun bu teknolojinin gücünü hızla anlayacağını ekledi.

“Photoshop uzun zaman önce sahneye çıktığında, bir süre insanlar Photoshop’lu görüntülere gerçekten oldukça aldandılar ve ardından oldukça hızlı bir şekilde görüntülerin Photoshop’lu olabileceği anlayışını geliştirdiler. Bu da benzer şekilde olacak” dedi.

Duruşma, dünyanın dört bir yanındaki düzenleyiciler ve hükümetlerin, Google ve Microsoft gibi Silikon Vadisi grupları tarafından geliştirilen teknolojiye dair potansiyel suiistimallere ilişkin artan endişeleri ve incelemelerini hızlandırması sonrasında gerçekleşti.

Geçen hafta AB milletvekilleri, ChatGPT gibi sohbet robotlarına getirilen kısıtlamalar da dahil olmak üzere yapay zekanın kullanımına ilişkin katı kurallar üzerinde anlaştılar.

Bu ayın başlarında, ABD Federal Ticaret Komisyonu ve Birleşik Krallık rekabet gözlemcisi de sektöre uyarı niteliğinde açıklamalarda bulundular. FTC, “şirketlerin yapay zeka teknolojisini nasıl kullanmayı seçebileceklerine yoğun bir şekilde odaklandığını” söylerken, İngiltere’nin Rekabet ve Piyasa Otoritesi, yapay zeka pazarı için bir inceleme başlatmayı planlıyor.

ABD Kongresi ayrıca teknolojiyi yönetmek için nasıl düzenlemeler yapılacağını araştırırken önümüzdeki aylarda sektörden daha fazla kaynakla konuşmayı planlıyor. Salı günkü duruşmada, kişisel gizlilik alt komitesine başkanlık eden Connecticut’tan Demokrat senatör Richard Blumenthal, “Yapay zeka riskinin aşırı olduğu durumlarda, özellikle kâr amaçlı ticari mahremiyet ihlalleri ve insanların geçim kaynaklarını etkileyen konular söz konusu olduğunda yapay zeka kullanımına sınırlamalar getirmemiz hatta yasaklamamız gerekir” ifadelerini kullandı.

“Bu teknoloji ters giderse oldukça ters gidebilir”

Altman, etkili kurallar oluşturmak için endüstri ve milletvekilleri arasında işbirliğine ihtiyaç olduğunu söyleyerek, “Bence bu teknoloji ters giderse, oldukça ters gidebilir. Ve bu konuda sesimizi duyurmak istiyoruz. Bunun olmasını önlemek için hükümetle birlikte çalışmak istiyoruz” dedi.

Altman, ChatGPT’nin altında yatan teknoloji olan GPT-4 gibi teknolojilerin “bazı işleri tamamen otomatikleştireceğini” kabul etti, ancak OpenAI’nin “çok daha iyi olacağına” inandığı yeni işler yaratacağını savundu.

Blumenthal, gelişen teknolojiyle ilgili “en büyük kabusunun” “yaklaşan yeni sanayi devrimi, milyonlarca işçinin yerinden edilmesi ver çok sayıda kişinin işini kaybetmesi” olduğunu söyledi.

Sosyal medyayı düzenlemek için hızlı hareket etmemeye ve “geçmişteki hatalarımızı tekrarlamama” arzusuna atıfta bulundu.

Son dönemde birçok önemli isim endişelerini dile getirdi

Son altı ayda inandırıcı insan benzeri yazılar üretebilen üretici yapay zekanın hızlı gelişimi, bazı yapay zeka etik uzmanları tarafından endişeyle karşılanmıştı.

Mart ayında, Twitter CEO’su Elon Musk ve 1.000’den fazla teknoloji araştırmacısı ve yöneticisi, OpenAI’nin sohbet robotu için kullandığı temel teknoloji olan GPT-4’ten daha güçlü yapay zeka dil modellerinin gelişimine altı aylık bir ara verilmesi çağrısında bulunan bir mektup imzalamıştı.

Bu ayın başlarında, yapay zekanın babası olarak kabul edilen Geoffrey Hinton, teknoloji devinde on yıl geçirdikten sonra, toplumsal bölünmeleri artıracağı ve kötü aktörler tarafından kullanılabileceği konusunda uyardığı teknolojinin riskleri hakkında özgürce konuşmak için Google’dan ayrılmıştı.