Kral Charles Yapay Zeka Şirketlerine "Varoluşsal Tehlike" Uyarısı Yaptı

İngiltere Kralı 3. Charles, yapay zeka sektörünün önde gelen temsilcilerine, teknolojinin yanlış ellere geçmesi halinde doğacak "varoluşsal tehlikelere" karşı uyarıda bulunarak "çok geç olmadan" yeterli kontrol mekanizmalarının kurulması gerektiğini söyledi.

BBC'nin haberine göre Charles, kurucusu olduğu King's Foundation'a (Kral Vakfı) ait, İskoçya'nın Ayrshire bölgesindeki 18. yüzyıldan kalma Dumfries House malikanesinde düzenlenen özel bir toplantıya ev sahipliği yaptı. Görüşmeye Nvidia'nın kurucusu ve Üst Yöneticisi (CEO) Jensen Huang, Google DeepMind'ın kurucu ortağı Demis Hassabis, OpenAI ve Anthropic'in yöneticileri, Birleşik Krallık'ın yeni yapay zeka bakanı Kanishka Narayan ile ülkenin dış istihbarat servisinin başkanı katıldı. Papa'ya yapay zeka konusunda danışmanlık yapan Paolo Benanti de toplantıda yer aldı.

Charles, yapay zekayı geliştirenlerin, bu teknolojinin "daha karanlık kapasiteler geliştirme riski taşıdığına" ilişkin giderek artan uyarılarda bulunduğunu söyledi. Kral, tıp ve bilim alanlarını örnek göstererek teknolojinin hayat kurtarma kapasitesine de dikkat çekti.

"Yapay zeka şimdiden hayatı iyileştirme ve kurtarma konusunda muazzam bir kapasite sergiliyor. Ne var ki, bu teknolojileri yaratanlar artık giderek artan bir şekilde, yapay zekanın daha karanlık yetenekler geliştirme belki de hatta can alma riski taşıdığı konusunda uyarılarda bulunuyor"

Kontrol mekanizmalarının aciliyetine değinen Charles, şunları kaydetti:

"(Yapay zeka) Söz konusu teknolojilerin yanlış ellere geçmesinin ve potansiyel olarak felaketle sonuçlanacak şekillerde kullanılmasının yol açacağı varoluşsal tehlikelerin yeterince ele alınması konusunda aciliyet olduğu görülüyor. Hiç şüphesiz, her şey için çok geç olmadan önce yeterli kontrol mekanizmalarına ihtiyacımız var"

Charles, konuşmasında yanıt aranması gereken iki soru olarak "Güvenliği merkeze alarak yapay zekanın faydalarından nasıl yararlanabiliriz?" ile "Bunu başarmak için hiçbir ulusun geride kalmayacağı, ancak insanlığın varlığını koruyacağı uluslararası işbirliği ve mutabakatı nasıl inşa edebiliriz?" sorularını sıraladı. Yapay zekanın gelişim hızını ve niteliğini hem ilgi çekici hem de aynı ölçüde endişe verici bulduğunu belirten Kral, "İnsanlığımız kutsal kalmalı." dedi.

Charles konuşmasını, salondaki yöneticilere sorumluluk hatırlatmasıyla bitirdi:

"Önünüzdeki görev sadece teknolojiyi ilerletmek değil; aynı zamanda onun insanlığın, toplumun ve doğal dünyanın hizmetinde kalmasını sağlamaktır"

Kralın uyarısı, bir Anthropic araştırmacısının istifa ederek yapay zeka şirketlerinin herhangi bir insandan çok daha zeki makineler geliştirmek için yarıştığını ve insanlığın bu süreci atlatamayabileceğini internette yazmasından yalnızca birkaç gün sonra geldi.

Şirketlerden "güvenlik" vurgusu

Toplantıda söz alan Nvidia CEO'su Jensen Huang, güvenliğin "en önemli öncelik" olduğuna inandığını, şirketlerin yeterince güvenli bulmadıkları ürünleri piyasaya sürmek yerine mühendislik çalışmalarını sürdürmesi gerektiğini belirtti.

"Sorumlu bir iyimserlikle öncülük edelim. Yapay zekayı güvenli ve emniyetli bir şekilde inşa edelim, daha fazla insana açalım, hedeflerimizi büyütelim ve dünya için önem taşıyan sorunları çözelim."

Google DeepMind'ın kurucu ortağı Demis Hassabis ise birçok görevde insanlarla aynı düzeye gelebilecek ya da insanlardan daha iyi performans gösterebilecek sistemlerin ortaya çıkmasına "muhtemelen sadece birkaç yıl kaldığını" söyledi. Hassabis, bu sistemlerin "Sanayi Devrimi'nin etkisinin on katı" büyüklüğünde bir etki yaratabileceğini, süreçte "bir şeylerin ters gitme ihtimalinin kesinlikle sıfır olmadığını" ifade etti.