OpenAI sadece kazanmak istiyor

OpenAI sadece kazanmak istiyor

OpenAI, son birkaç yılı matematiğin giderek zorlaşan alanlarında iz bırakarak geçirdi. Bu hafta, şimdiye kadarki en büyük başarılarından birini elde etti: efsanevi bir Milenyum Ödülü probleminin çözümü. Normal şartlar altında bu, tarihi bir başarı olarak kutlanacaktı.

Bunun yerine, birçok matematikçi OpenAI’nin durmak bilmeyen ilerleyişini artan bir tedirginlikle izledi. Onlara göre şirket, coşkulu bir yeni gelen olmaktan çok, imkansız derecede bol kaynağa sahip bir davetsiz misafir gibi görünüyor; uzun süredir var olan normları ya da geride kalanlar için doğacak sonuçları pek umursamadan, hayatlarını araştırmaya adadıkları problemlerin içine dalıyor. Bu tedirginliğin temelinde, OpenAI’nin matematiği farklı nedenlerle yaptığına dair bir his yatıyor. Matematikçiler bu alanı ilerletmek istiyor. OpenAI ise kazanmak istiyor.

Matematik normalde bu kadar dramatik değildir; peki işler nasıl bu kadar kötü bir hal aldı?

Bu hafta The Verge, OpenAI’nin bu alandaki çalışmalarıyla ilgili son zamanlarda ortaya çıkan tartışmaların merkezinde yer alan Tristan Buckmaster ve Andreas Thom’un da aralarında bulunduğu bir düzineden fazla matematikçiyle görüştü. En ciddi iddialara şüpheyle yaklaşanlar bile, bu teknoloji devinin davranışlarının alanı sarsmış olduğunu ve rakiplerini ezip geçme kararlılığıyla bundan sonra ne yapabileceğinden endişe duyulduğunu belirtti.

Buckmaster, OpenAI’yi, Codex adlı aracı aracılığıyla yaptığı çalışmaların şirketin son dönemdeki başarılarına katkıda bulunup bulunmadığını yeterince açıklamamakla suçladı. The Verge’e yaptığı açıklamada, OpenAI sözcüsü Laurance Fauconnet, Buckmaster’ın komutlarından alınan materyallerin herhangi bir rol oynadığını şiddetle reddetti: “Dr. Buckmaster’ın son iki ayda Codex aracılığıyla verdiği komutların, eğitim dahil olmak üzere sistemi herhangi bir şekilde etkilemiş olmasının imkansız olduğunu kesin olarak söyleyebiliriz.”

Buckmaster hâlâ ikna olmamış durumda. “Şu ana kadarki davranışları göz önüne alındığında, bu tür açıklamalara büyük bir şüpheyle yaklaşmak gerekir,” dedi.

Matematik normalde bu kadar dramatik değildir; peki işler nasıl bu kadar kötüye gitti? Gerilimin doruğa ulaşması için bir söylenti yeterli oldu.

OpenAI, bazı araştırmacıların Milenyum Ödülü problemlerinde ilerleme kaydettiğini duyduğunu ve kendi gelişmiş, henüz yayınlanmamış modellerinden birinin de bu konuda ilerleme sağlayıp sağlayamayacağını görmek istediğini belirtiyor. Görünüşe göre yapabiliyormuş. OpenAI, akışkanların akışıyla ilgili Navier-Stokes probleminin çözümünü bulmak için yaklaşık 10.000 ajanın, on milyonlarca dolarlık hesaplama gücünün ve sadece 88 saatin yeterli olduğunu belirtiyor.

Şirket, kiminle yarıştığını da keşfetmişti: NYU profesörü Buckmaster ve en şiddetli rakiplerinden biri olan Anthropic’te araştırmacı olarak çalışan Levent Alpöge. Çeşitli araştırma alanları arasında bu ikili, Navier-Stokes problemini inceliyordu, ancak henüz bir ispatı tamamlamamışlardı. Sonrasında yaşananların bazı detayları şiddetle tartışılıyor, ancak iki taraf da olayların temel akışı konusunda genel olarak hemfikir. Bir şey özellikle açık: Alpöge’nin bu işe dahil olması, Anthropic’teki çalışmasından bağımsız bir “kişisel işbirliği” olduğunu söylemesine rağmen, OpenAI için bir sorundu.

En ciddi iddialara bile şüpheyle yaklaşanlar bile, teknoloji devinin davranışları nedeniyle sarsılan ve rakiplerini ezip geçme kararlılığıyla bir sonraki adımından korkan bir sektörden bahsetti.

Buckmaster, şirketin kendi ilerlemelerinden haberdar olduğunu ve kendi çözümünü bulmak için acele ettiğini öğrendikten sonra OpenAI ile iletişime geçtiğini söyledi. OpenAI araştırmacısı Sébastien Bubeck ile yaptığı görüşmelerin tartışmalı ve kendi görüşüne göre tehditkar bir hal aldığını, ancak şirketin kendisine Alpöge’yi dışlayan bir çıkış yolu sunduğunu belirtti. Buckmaster, kendi çalışmasını tamamlaması için pratikte “sınırsız hesaplama gücü” ve elbette şirketin araçlarına atıfta bulunacak olan bu çığır açan gelişmeyi duyuran OpenAI makalesinin tek yazarı olma fırsatı sunulduğunu söyledi.

Buckmaster, The Verge’e verdiği telefon röportajında “Tek yapmam gereken Levent’i kurban etmekti” dedi. Bubeck’in teklifini “rüşvet” olarak gördüğü için kesin bir şekilde reddettiğini belirten Buckmaster, aynı zamanda OpenAI’nin, sorunu çözmek için kullandığı şirketin yapay zeka araçlarından biri olan Codex’ten faydalanmış olabileceğini sorgulamaya başladığını da ekledi. OpenAI, herhangi bir kişinin veya aracının Buckmaster’ın özel kullanıcı verilerine eriştiğini reddetti; ancak son açıklamalarına kadar, Buckmaster’ın ürünleri kullanmasından elde edilen verilerin modeli iyileştirmek için kullanılmış olabileceği olasılığını tamamen dışlayamadığını kabul etmişti.

Buckmaster, nihayetinde hem çalışmalarını hem de OpenAI’nin davranışlarına ilişkin açıklamalarını kamuoyuna duyurmaya karar verdi. Ofisinin adeta bir “savaş odası”na dönüştüğünü belirten Buckmaster, meslektaşlarının matematiksel hesaplamalarını incelemeye, iletişim faaliyetlerini koordine etmeye ve hatta avukatlarla iletişime geçmeye yardımcı olduğunu söyledi.

Bubeck, Buckmaster’ın sosyal medyada ve The New York Times’a verdiği röportajda bu görüşmeleri aktardığı şekliyle reddedmiştir. Buckmaster’ın kendi ispatını tamamlamasına yardımcı olmak ya da şirketin ispatını yazma işini ona devretmek için OpenAI’nin kaynaklarını sunduğunu kabul etmiştir. Dikkat çekici bir şekilde, Bubeck, OpenAI’nin diğer matematikçilerle de benzer anlaşmalar yaptığını söylemiş, ancak kim olduklarını belirtmemiştir.

Ancak Bubeck’in açıklamaları, Alpöge’nin Anthropic ile olan bağlantısının bir sorun teşkil ettiğini açıkça ortaya koyuyor. “Bizim açımızdan, bir Anthropic çalışanıyla nasıl bir OpenAI iç projesi yürütebiliriz?” diye sordu Times’a.

Matematik alanında rekabet etmek hedefse, Milenyum Ödülü problemlerinden birini çözmekten daha büyük bir başarı pek yoktur. 2000 yılında Clay Matematik Enstitüsü tarafından ortaya konulan yedi problem, bu alandaki en zorlu zorluklar arasında kabul edilmektedir. Her birinin çözülmesi halinde, çözene 1 milyon dolarlık ödül verilmektedir. Ödüller oluşturulduğunda, bu problemlerin çoğu zaten on yıllardır yoğun bir inceleme sürecinden geçmişti. O günden bu yana geçen çeyrek asırda, sadece biri — üç boyutlu kürelerle ilgili bir topolojik problem olan Poincaré varsayımı — çözüldü.

Dolayısıyla, modellerinin matematikte en iyi olduğunu kanıtlamak isteyen bir yapay zeka şirketi için bu problemler karşı konulmaz hedeflerdir. Buckmaster ve The Verge’in görüştüğü diğer birçok matematikçiye göre, bu durum, OpenAI’nin rakiplerinin yaklaştığını duyduğunda — özellikle de rakip bir yapay zeka şirketinin işin içinde olduğu anlaşıldığında — neden bu kadar hırsla harekete geçtiğini açıklamaya yardımcı oluyor.

Buckmaster için bu olay, daha önce Google DeepMind ile yaptığı işbirliği döneminden beri zaten güçlü bir şekilde inandığı bir şeyi pekiştirdi: “Tüm bu teknoloji insanları, büyük ve ünlü sorunları çözmeye ‘takıntılı’” ve “önce haber yapma konusunda takıntılılar,” dedi. “Her şey rekabetle ilgili.”

Tristan Buckmaster, o dünyada prestije, şöhrete, ilk olmak ve ilk olarak görülmeye yönelik yoğun bir saplantı olduğunu söyledi. “Tek geçerli para birimi budur,” dedi.

Şirketler ünlü problemleri çözmek için yarışırken genellikle “gözden kaçan” şeyin matematikçilerin kendileri olduğunu söyledi — sadece birikmiş çalışmalarıyla bu atılımları mümkün kılan insanlar değil, en başından beri matematikle uğraşmalarının nedenleri de. Evet, bazıları prestij peşinde olabilir, ancak çoğu kişi basitçe birer ödül avcısı değildir. Oxford Üniversitesi’nde matematik profesörü olan Andras Juhasz, matematiği kısmen bilim, kısmen sanat olan zarif bir disiplin olarak tanımladı ve bu alanda çalışanları motive eden birçok farklı neden olduğunu belirtti. “Çoğu zaman hemen uygulanabilecek pratik bir yönü yoktur,” dedi. “Bunu yapıyorlar çünkü güzel. Bundan zevk alıyorlar. Bu bir keşif duygusudur. Bu doğaldır.”

Sınıf düzeyindeki matematik alıştırmalarının aksine, öncü matematikte cevaba giden belirli bir yol nadiren vardır. Araştırmacılar, sorunlara pek çok farklı açıdan yaklaşabilirler; bunlardan bazıları birbirinden kökten farklıdır. Bu da çözüme götüren fikirleri — ve bunları geliştiren kişileri — belki de sorunun kendisini çözmekten daha önemli hale getirir. Matematikçiler bu soyu son derece önemserler; çünkü alanın genişlemesi bu şekilde gerçekleşir ve yeni teknikler ile yöntemler, genellikle çözülmesi için tasarlandıkları sorundan daha büyük etkiler yaratır.

Buckmaster’a göre, Bubeck ile yaptığı görüşmeler, araştırma matematiği ile Büyük Teknoloji dünyalarını ayıran uçurumu simgeliyor ve araştırmada neyin değerli kabul edildiği konusundaki farklılıkları vurguluyor. Bubeck ile sohbet ederken aldığı notlardan alıntı yaparak, OpenAI araştırmacısının, şirketin kendisine atıfta bulunma teklifini reddettiğinde gözle görülür şekilde şaşırdığını söyledi. “Sébastien’in yüzündeki ifadeyi görebiliyordum. Millennium Ödülü’nü umursamadığımı söylediğimde şok olmuştu,” diye hatırladı.

Buckmaster, daha önce teknoloji araştırmacıları arasında da benzer bir zihniyete rastladığını söyledi. O dünyada, prestij, şöhret, ilk olmak ve ilk olarak görülmeye yönelik yoğun bir saplantı olduğunu belirtti. “Tek geçerli para birimi budur,” dedi.

OpenAI ile yaptığı görüşmeden sonra şirketin niyetleri konusunda endişeye kapılan tek matematikçi Buckmaster değil. Almanya’daki Dresden Teknik Üniversitesi’nde profesör olan Andreas Thom, geçen ay OpenAI’nin kendisi ve araştırmacı arkadaşı Gábor Kun’un çalışmalarına büyük ölçüde dayanan etkileyici bir matematik sonucunu duyurmasının ardından bir tartışmanın merkezinde buldu kendini. Şirket, bu değişikliği duyurmadan veya kamuoyuna açıklamadan, duyurusunda sessizce bir düzeltme yaparak ikilinin katkısını kabul etti.

Thom, bu zorlu süreci “pek de hoş bir deneyim değil” olarak nitelendirdi, ancak The Verge’e, Buckmaster konuyu kamuoyuna açıklayana kadar bu olayı büyük ölçüde geride bıraktığını söyledi. Buckmaster’ın iddiaları, Thom’u OpenAI’nin çığır açan başarısıyla ilgili çözülmemiş bir soruyu yeniden ele almaya itti: Kendisinin ve meslektaşlarının araştırma hakkında ChatGPT ile yaptıkları sohbetler, yıllardır üzerinde çalıştığı sorunu nihayetinde çözen modellerin geliştirilmesine yardımcı olmak için kullanılmış olabilir miydi?

Thom, bu soruyu yanıtlamak için gerekli bilgilere yalnızca OpenAI’nin sahip olduğunu söyledi. “Dürüst olmak gerekirse, onların bile bilmediğinden şüpheleniyorum.” Modelleri eğiten ve matematiksel sonuçlar elde etmek için kullanan kişiler “farklı bir tür insan” dedi. Ona göre bu, belirsizliği mazur gösterecek bir mazeret değil. “Çünkü bu, aslında onların pek umursamadığı anlamına geliyor, değil mi?”

“Kaynakları akademik araştırma gruplarının elindekileri çok aşan güçlü yapay zeka şirketleriyle rekabet etme ihtimali, bu grupların iddialı soruları araştırmaya daha da isteksiz hale gelmesine neden olabilir.”

Bu gerilim, başka yerlerde halihazırda yaşanmakta olan çatışmaları yansıtıyor. Yazarlar, müzisyenler, sanatçılar ve medya şirketleri, çoğu zaman izin, takdir veya tazminat olmaksızın, insanların yarattığı eserlerden oluşan devasa arşivlerden inşa edilen sistemler nedeniyle yapay zeka şirketlerine karşı çıkmışlardır. Matematik bu konudan çok uzak gibi görünse de, altında yatan soru aynı: Şirketler, sistemlerini oluşturmak için biriktirdikleri çalışmaları kullandıkları kişilere ne borçludur?

Thom’un durumunda bu soru hâlâ cevapsız kalıyor. OpenAI, Thom ve meslektaşlarının ChatGPT ile yaptıkları sohbetlerden elde edilen verilerin, Thom’un çalışmalarına dayanan şirketin çözümüne katkıda bulunup bulunmadığına dair The Verge’in sorusuna yanıt vermedi.

Daha geniş bir bakış açısıyla Thom, yapay zekanın son dönemdeki matematiksel ilerlemelerinin temelini oluşturan “tüm bu topluluğun tüm araştırma sonuçlarına kattığı ortak çaba”nın yeterince takdir edilmediğini düşündüğü durumdan rahatsızlık duyduğunu belirtti. Şirketlerin, “bunu sanki önemsiz bir şeymiş gibi kullandığını” söyledi.

“Bunda hoşuma gitmeyen belirli bir tutum var,” dedi.

Matematikçilerin rekabete yabancı oldukları söylenemez — araştırmacılar önceliğe büyük önem verir ve matematik tarihi, kimin ilk olduğu konusundaki acımasız tartışmalarla doludur — ancak rekabet işbirliğini engellemezken, bu rakipler sıradan rakipler değildir. Matematikte bir keşfi başkalarından önce duyurmak, bariz nedenlerden ötürü tarihsel olarak nispeten zor olmuştur: Bir keşfi hızla ele geçirecek uzmanlığa sahip çok az kişi vardır. Yapay zeka şirketleri ise farklı bir ölçekte faaliyet gösterir. Araştırmacılar, bir atılımın yaklaştığı haberi yayıldığında, bu şirketlerin binlerce ajanı ve muazzam miktarda hesaplama gücünü hızla devreye sokarak, matematikçilerin karşı koyma şansı neredeyse hiç olmayacak bir tür endüstriyel sürece dönüştürebileceğinden endişe ediyorlar.

Buckmaster’a göre, OpenAI araştırmacılarla sonuçlar için yarışmak yerine onlarla kolaylıkla işbirliği yapabilirdi. Nitekim şirket, onunla çalışmaya son derece istekli görünüyordu. Sorun Alpöge’ydi; daha doğrusu, Anthropic ile olan bağlarıydı.

“Antropic’i geçmek için yayınlamak konusunda o kadar acele ediyorlardı ki,” dedi. Ortada kalan araştırmacılara neredeyse hiç aldırış etmediler.

Tüm bu telaşa rağmen, OpenAI, Navier-Stokes denklemlerini çözdüğü için Milenyum Ödülü’nü kazanıp kazanmadığını yıllarca bilemeyecek. Clay Matematik Enstitüsü, bir sonucun yayınlanmasından itibaren iki yıl geçmesini şart koşuyor; bu süre zarfında sonucun “küresel matematik camiasında genel kabul görmüş” olması gerekiyor. Şu an için Navier-Stokes, tuhaf bir belirsizlik içinde bulunuyor: Enstitü, bu problemi çözülmemiş problemler listesinden çıkardı, ancak henüz çözüldüğünü ilan etmedi. Enstitü yaptığı açıklamada, “Süreç kasıtlı olarak aceleye getirilmiyor” dedi.

Bu arada OpenAI, çoktan bir sonraki aşamaya geçmiştir. The Verge’e yaptığı açıklamada OpenAI’dan Fauconnet, “Navier-Stokes problemini tamamlamamızdan bu yana, başka bir Milenyum Ödülü problemi üzerinde önemli ilerleme kaydettik” dedi ve şirketin “bu sonuçları nasıl düşünceli bir şekilde paylaşabileceğini araştırdığını” ekledi.


Hangi problem olduğu ise henüz netleşmiş değil. Sosyal medyada dolaşan doğrulanmamış spekülasyonlara göre bu, çok kabaca ifade etmek gerekirse, karmaşık geometrik şekillerin daha basit yapı taşları aracılığıyla nasıl anlaşılabileceğiyle ilgili olan Hodge varsayımı olabilir. Ayrıca Anthropic’in kendi Millennium Ödülü problemini çözmeye çok yaklaştığına dair söylentiler de dolaşıyor.

Yapay zekanın iki devi, daha fazla matematik ödülü kazanmak için yarışırken, şaşırtıcı sonuçların tek başına, dönüştürdükleri topluluğun güvenini kazanmak için yeterli olmadığını fark ediyorlar.

Matematikçiler karşı çıkmaya başlıyor. The Verge’in görüştüğü pek çok kişi, hatta bu alandaki en hevesli yapay zeka savunucuları bile, şirketlerin araştırmalar üzerinde caydırıcı bir etki yarattığından ve matematikçileri, birinin araya girip onlardan önce davranmasından korktukları için bitmemiş çalışmaları konusunda daha gizli davranmaya ittiğinden endişe duyuyordu. Birkaç kişi, daha önce önemli çözülmemiş problemlerin listelerini derlemiş olan meslektaşlarının, bu alana yararlı bir kaynak olması amaçlanan bu listelerin, aksine yapay zeka şirketleri için bir hedef listesine dönüşebileceğinden endişe duyarak bu uygulamayı yeniden gözden geçirdiklerini söyledi.

Bu konudaki direniş giderek daha fazla kamuoyuna yansıyor. Haziran ayında matematikçiler, matematikte yapay zekanın sorumlu kullanımına yönelik bir dizi ilke içeren “Leiden Deklarasyonu”nu yayınladılar. Uluslararası Matematik Birliği tarafından desteklenen ve yaklaşık 3.900 kişi tarafından imzalanan bu deklarasyona, Ağustos ortasında bu konuyu en son ele aldığımdan bu yana yaklaşık 500 kişi daha imza attı. Bildirge, politika yapıcıları, hükümetleri, medyayı ve diğer grupları, “ürünlerinin yeteneklerini abartan” şirketlerin yarattığı “abartılı reklam kampanyalarına” kanmamaya çağırıyor. Millennium Ödülü tartışmaları kızışırken, OpenAI, kurumsal çıkarların müdahalesini kınayan şiddetli muhalefet ve etkinliğin düşük kaliteli “düzensiz matematik” seline yol açacağına dair endişeler üzerine, Caltech’te düzenlenecek bir lisans matematik hackathonuna verdiği sponsorluğu geri çekti.

“Topluluk olarak bize hiç önem vermiyorlar. Her şey, çocuk gibi davranan iki trilyon dolarlık şirket arasındaki bu önemsiz dramdan ibaret.”

Çin’deki Tsinghua Üniversitesi’nde matematik profesörü, Harvard Üniversitesi’nde emekli profesör ve prestijli Fields Madalyası sahibi Shing-Tung Yau, The Verge’e verdiği demeçte genç araştırmacılar üzerindeki olası etkiden endişe duyduğunu belirtti. “Zor problemler üzerinde çalışmak, doktora öğrencileri ve genç öğretim üyeleri için zaten önemli bir risk taşıyor,” dedi. “Kaynakları akademik araştırma gruplarının elindekileri çok aşan güçlü yapay zeka şirketleriyle rekabet etme ihtimali, onların iddialı soruların peşinden gitme konusunda daha da isteksiz hale gelmelerine neden olabilir.”

Yau, araştırmacıların çalışmalarının OpenAI tarafından kullanılmış olabileceğine dair iddialar hakkında yorum yapmaktan kaçındı, ancak neler olduğunu ortaya çıkarmak için bağımsız bir inceleme yapılmasından yana olduğunu belirtti. Daha genel bir bakış açısıyla, şeffaflık eksikliğinin ve ilk duyuru yapma telaşının, bir atılımın ardındaki entelektüel kökeni gölgeleyebileceğinden endişe duyuyor. Matematiksel atıfların, en fazla hesaplama bütçesine sahip olan ya da en gürültülü duyuruyu yapan kişiyi değil, entelektüel katkıları yansıtması gerektiğini söyledi.

Yau bir başka soruna da dikkat çekti. OpenAI ve diğer yapay zeka şirketleri, hem önemli araştırma araçlarının sağlayıcıları hem de bir bakıma araştırmacılar olarak tuhaf bir konumda bulunuyorlar. Yau, özellikle bu şirketlerin müşterilerin henüz tamamlanmamış ve yayınlanmamış çalışmalarına ayrıcalıklı erişimden faydalanabilecekleri için bunun “ciddi bir çıkar çatışması endişesi doğurduğunu” belirtti.

“Bu endişe, kapsamlı bir yanıtı hak ediyor,” dedi. “Sadece sıradan bir rekabet olarak göz ardı edilmemeli.”

Bu giderek artan tedirginliğin büyük bir kısmı güven meselesine dayanıyor. Matematikçiler, hem araştırma araçlarını sağlayan hem de aynı zamanda kendileriyle rekabet eden bir şirket hakkında endişelenmek için OpenAI’ye yönelik en çarpıcı iddiaları kabul etmek zorunda değiller.

“Evet, açıkçası, bir veri güvenliği duyurusu ya da benzeri bir şeyin bu sorunu gerçekten çözeceğini sanmıyorum,” dedi Thom. “Onlara pek güvenmiyorum.” Buckmaster da benzer şekilde düşünüyordu: “Neden söylediklerine güvenelim ki?”

Buckmaster, yaşadıklarını kamuoyuna açıklamasına meslektaşlarının tepkisinin son derece olumlu olduğunu söyledi. Ancak bunun altında yatan başka bir duygu daha vardı: korku. The Verge’e verdiği demeçte, başlangıçta yaşadıklarını kamuoyuna açıklarken kendisine destek olanlara teşekkür etmeyi planladığını belirtti. Ancak pek çok kişinin isimlerinin kamuoyunda anılmasından rahatsızlık duyduğunu belirtmesi üzerine bundan vazgeçti. Buckmaster, yapay zeka şirketlerine atıfta bulunarak, “Gerçek şu ki, matematikçiler aslında onlardan korkuyor” dedi.

Oysa korku, verimli ve sağlıklı bir araştırma topluluğu oluşturmak için pek de sağlam bir temel sayılmaz. Buckmaster, bu durumun ilgili şirketler için çok da önemli olduğuna inanmıyor. “Topluluk olarak bizden hiç umursamıyorlar,” dedi. “Her şey, çocuk gibi davranan iki trilyon dolarlık şirket arasındaki bu önemsiz dramdan ibaret.”

Bu haberde yer alan konuları ve yazarları takip ederek, kişiselleştirilmiş ana sayfa akışınızda benzer içerikleri görebilir ve e-posta güncellemeleri alabilirsiniz.

Kaynak: OpenAI just wants to win - Robert Hart / The Verge


.