OpenAI kurucusu Sam Altman, 10 Haziran'da Çin'in başkenti Pekin'de düzenlenen 2023 Zhiyuan Yapay Zeka Konferansı'na video bağlantısıyla katılarak ilk kez Çinli bir dinleyici kitlesine seslendi.

Konuşmasında Tao Te Ching'den alıntılar yapan ve büyük uluslar arasındaki işbirliğinden bahseden Altman, YZ güvenliğinin tek bir adımla başladığını ve uluslar arasında işbirliği ve koordinasyonun gerekli olduğunu söyledi. Altman'ın ardından Zhiyuan Araştırma Enstitüsü Yönetim Kurulu Başkanı Zhang Hongjiang ile bire bir soru-cevap yapıldı. Dr. Zhang Hongjiang şu anda Pekin Zhiyuan Yapay Zeka Enstitüsü'nün Yönetim Kurulu Başkanıdır ve bir dizi şirkette bağımsız direktör ve danışman olarak görev yapmaktadır. Daha önce Kingsoft Group'un İcra Direktörü ve CEO'su ve Kingsoft Cloud'un CEO'su olan Zhang, Microsoft Research Asia'nın kurucularından biri olarak Microsoft'un Asya Pasifik Araştırma ve Geliştirme Grubu'nun (ARD) Başkan Yardımcısı, Baş Teknoloji Sorumlusu ve Microsoft'un Asya Mühendislik Akademisi'nin (ATC) Başkanı ve Microsoft Seçkin Bilim İnsanı olarak görev yapmıştır. Zhang, Microsoft'a katılmadan önce Silikon Vadisi'ndeki Hewlett-Packard Laboratuvarlarında yöneticilik yapmış ve daha önce Singapur Ulusal Üniversitesi Sistem Bilimi Enstitüsü'nde çalışmıştır:

Yapay zeka devriminin bugün bu kadar büyük bir etkiye sahip olmasının nedeni sadece etkisinin ölçeği değil, aynı zamanda ilerleme hızıdır. Bu da beraberinde hem getirileri hem de riskleri getiriyor. Giderek daha güçlü hale gelen YZ sistemlerinin ortaya çıkmasıyla birlikte, küresel işbirliğinin önemi hiç bu kadar büyük olmamıştı. Ülkeler arasında işbirliği ve koordinasyonun elzem olduğu önemli konular vardır. AGI güvenliğini ilerletmek, ortak çıkar noktaları bulmamız gereken en önemli alanlardan biridir. Hizalama çözülmemiş bir konu olmaya devam etmektedir ve GPT-4'ün hizalama konusundaki çalışmalarını tamamlaması sekiz ay sürmüştür. Bununla birlikte, ilgili araştırmalar hala geliştirilmekte ve iki ana alana ayrılmaktadır: genişletilebilirlik ve yorumlanabilirlik.

Soru-Cevap oturumunun temel unsurları:

On yıl içinde insanlar güçlü bir yapay zeka sistemine (AI Sistemi) sahip olacak. OpenAI'nin açık kaynak için ilgili yeni bir zaman çizelgesi yoktur ve açık kaynak modellerinin avantajları vardır, ancak açık kaynak her şey (AI gelişimi için) en iyi yol olmayabilir. Sinir ağlarını anlamak, insan beynini anlamaktan çok daha kolaydır. Bir noktada GPT-5 modellerini yapmak için bir girişim olacaktır, ancak bu yakın zamanda olmayacaktır. GPT-5'in tam olarak ne zaman ortaya çıkacağından emin değilim. Yapay zeka güvenliğinin Çinli araştırmacıların katılımına ve katkısına ihtiyacı var.

Not: "YZ uyumu", YZ kontrol problemindeki ana konudur, yani YZ sistemlerinin hedeflerinin insan değerleri ve çıkarları ile uyumlu olması (aynı hizada tutulması) gerekliliğidir.


Sam Altman'ın konuşması:

Giderek daha güçlü hale gelen yapay zeka sistemlerinin ortaya çıkmasıyla birlikte, küresel işbirliği için riskler hiç bu kadar yüksek olmamıştı.

Dikkatli olmazsak, halk sağlığı sonuçlarını iyileştirmek için tasarlanan yanlış yerleştirilmiş bir YZ sistemi, tüm sağlık sistemini bozabilecek asılsız tavsiyeler verebilir. Benzer şekilde, tarımsal üretimi optimize etmek için tasarlanan bir YZ sistemi, gıda üretimini etkileyen uzun vadeli sürdürülebilirliği ve çevresel dengeyi dikkate almayarak doğal kaynakları yanlışlıkla tüketebilir veya ekosistemleri bozabilir.

Umarım hepimiz AGI güvenliğini ilerletmenin, ortak noktalar bulmak için birlikte çalışmamız gereken en önemli alanlardan biri olduğu konusunda hemfikir olabiliriz.

OpenAI Açık Kaynak Olasılığı

Zhang Hongjiang: Bugünkü forumun AI güvenliği ile ilgili olduğunu anlıyorum, çünkü insanlar OpenAI'yi çok merak ediyorlar, bu yüzden OpenAI hakkında, sadece AI güvenliği hakkında değil, birçok sorum var. Burada izleyicilere bir sorum var, OpenAI'nin modellerini sürüm 3.0'dan önceki gibi yeniden açma planı var mı? Ayrıca açık kaynağın AI güvenliği için iyi olduğunu düşünüyorum.
Sam Altman: Bazı modellerimiz açık kaynaklıdır ve bazıları değildir, ancak zaman geçtikçe, gelecekte daha fazla modeli açık kaynaklı hale getirmeye devam etmemizi beklemeniz gerektiğini düşünüyorum. Belirli bir modelim veya zaman çizelgem yok ama bu şu anda tartıştığımız bir konu.
Zhang Hongjiang: BAAI, modeller ve algoritmaların kendisi de dahil olmak üzere tüm çabaları açık kaynak yapıyor. Kontrolün onlarda olduğunu algıladığınız paylaşmaya ve vermeye ihtiyacımız olduğuna inanıyoruz. Benzer fikirleriniz var mı veya bu konular OpenAI'deki meslektaşlarınız veya meslektaşlarınız arasında tartışıldı mı?
Sam Altman: Evet, açık kaynağın bir bakıma önemli bir rolü olduğunu düşünüyorum.
Son zamanlarda ortaya çıkan birçok yeni açık kaynak modeli de var. API modelinin de önemli bir rolü olduğunu düşünüyorum. Bize ek güvenlik kontrolleri sağlar. Belirli kullanımları engelleyebilirsiniz. Belirli ince ayar türlerini engelleyebilirsiniz. Bir şey işe yaramazsa, onu geri alabilirsiniz. Mevcut model ölçeğinde, bu konuda çok endişeli değilim. Ancak model beklediğimiz kadar güçlü hale geldikçe, bu konuda haklıysak, bazen doğru olsa da her şeyi açık kaynaktan almanın en iyi yol olmayabileceğini düşünüyorum. Bence bunu dikkatli bir şekilde dengelememiz gerekiyor.
Gelecekte daha fazla açık kaynaklı büyük modelimiz olacak, ancak belirli bir model ve zaman çizelgesi yok.

AGI için sırada ne var? GPT-5'i yakında görecek miyiz?

Zhang Hongjiang: Bir araştırmacı olarak ben de merak ediyorum, AGI araştırmasının bir sonraki yönü ne olacak? Büyük modeller, büyük dil modelleri açısından GPT-5'i yakında görecek miyiz? Bir sonraki sınır somutlaşmış modellerde mi? Otonom robotik, OpenAI'nin keşfetmeyi planladığı veya keşfetmeyi planladığı bir alan mı?
Sam Altman: Sırada ne olduğunu da merak ediyorum ve bu işi yapmanın en sevdiğim yanlarından biri, araştırmanın en ileri noktasında çok fazla heyecan ve sürpriz olması. Henüz cevaplara sahip değiliz, bu yüzden birçok olası yeni paradigmayı araştırıyoruz. Elbette bir noktada bir GPT-5 modeli yapmaya çalışacağız, ancak yakın zamanda değil. Tam olarak ne zaman olduğunu bilmiyoruz. OpenAI'nin en başından beri robotik üzerine çalışıyoruz ve buna çok ilgi duyuyoruz, ancak bazı zorluklar yaşadık. Umarım bir gün bu alana geri dönebiliriz.
Zhang Hongjiang: Kulağa harika geliyor. Sunumunuzda GPT-2'nin nasıl çalıştığını ve modeli daha güvenli hale getirdiğini açıklamak için GPT-4'ü nasıl kullandığınızdan da bahsetmiştiniz. Bu yaklaşım ölçeklenebilir mi? Bu yönde OpenAI gelecekte ilerlemeye devam edecek mi?
Sam Altman: Bu yönde ilerlemeye devam edeceğiz.
Zhang Hongjiang: Sizce bu yöntem biyolojik nöronlara uygulanabilir mi? Çünkü bu soruyu sormamın nedeni, insan nöronlarının kendi alanlarında nasıl çalıştığını incelemek ve keşfetmek için bu yöntemi ödünç almak isteyen bazı biyologlar ve sinirbilimcilerin olmasıdır.
Sam Altman: Yapay nöronlarda neler olup bittiğini görmek biyolojik nöronlardan çok daha kolay. Dolayısıyla bu yaklaşımın yapay sinir ağları için geçerli olduğunu düşünüyorum. Diğer modelleri anlamamıza yardımcı olması için daha güçlü modelleri kullanmanın bir yolu olduğunu düşünüyorum. Ancak bu yaklaşımı insan beynine nasıl uygulayacağınızdan pek emin değilim.

Model sayısını kontrol etmek mümkün mü?

Zhang Hongjiang: Tamam, teşekkürler. Artık AI güvenliği ve AGI kontrolü hakkında konuştuğumuza göre, tartıştığımız sorulardan biri şu: Dünyada sadece üç model olsaydı daha güvenli olmaz mıydı? Nükleer kontrol gibi, nükleer silahların çoğalmasını istemezsiniz. Bu teknolojiyi alabilecek ülke sayısını kontrol etmeye çalıştığımız bir anlaşmamız var. Öyleyse, model sayısını kontrol etmek uygun bir yön mü?
Sam Altman: Dünyada azınlık modeline mi yoksa çoğunluk modeline mi sahip olmanın daha güvenli olduğu konusunda farklı görüşler olduğunu düşünüyorum. Bence daha önemli, herhangi bir sağlam modelin güvenlik açısından yeterince test edildiği bir sistemimiz var mı? Yeterince sağlam bir model yaratan herkesin, yarattıklarının güvenli ve uyumlu olmasını sağlamak için hem kaynaklara hem de sorumluluğa sahip olduğu bir çerçevemiz var mı?
Zhang Hongjiang: Dünkü bu toplantıda, MIT Future of Life Enstitüsü'nden Profesör Max, ilaç geliştirmeyi kontrol etme şeklimize benzer olası bir yöntemden bahsetti. Bilim adamları veya şirketler yeni ilaçlar geliştirdiğinde, bunları doğrudan pazarlayamazsınız. Bu test sürecinden geçmelisiniz. Bu öğrenebileceğimiz bir şey mi?
Sam Altman: Farklı endüstrilerde geliştirilen lisanslama ve test çerçevelerinden kesinlikle çok şey öğrenebileceğimizi düşünüyorum. Ama temelde işe yarayabilecek bir şeyimiz olduğunu düşünüyorum.
Zhang Hongjiang: Çok teşekkür ederim Sam. Çevrimiçi de olsa bu toplantıya katılmak için zaman ayırdığınız için teşekkür ederiz. Eminim daha birçok soru vardır, ancak zamanımız olduğu için burada durmalıyız. Umarım bir dahaki sefere Çin'e, Pekin'e gelme fırsatınız olduğunda daha derinlemesine bir tartışma yapabiliriz. çok teşekkür ederim.