O kilitli yazılımlar da açılsın mı?

Geçen pazar aşure kaynatarak yazıya girişmiş ve yapay zekâ alanındaki son hararetli tartışmaya açıklık getirmeye çalışmıştım. Meselemiz aşureyi hep birlikte herkesin gözü önünde mi yapalım, yoksa herkes kendi mutfağında kendi gizli tarifiyle mi yapsın meselesiydi. Yer yer iki tarafa da hak vereceğimiz bir durum vardı. Tabii konu konuyu açınca, açıklık getirilmesi gereken kavram sayısı arttı. 

Bu hafta, tartışmaya Hakan Taşıyan’ın o meşhur videosundaki içten çağrıyı hatırlayarak başlıyorum: O kilitli kapılar açılsın lütfen. Hakan Taşıyan’a “o kilitli yazılımlar da açılsın mı Hakan Abi?” diyecek halim yok. Ancak bu soruyu insanlığın kendi kendisine sorması ve cevaplaması lazım. 

Yazılımlar lisanslanmalı mı, yoksa herkesin geliştirmesine açık mı olmalı, yoksa açık yerine “özgür” ifadesini mi tercih etmeliyiz? Yapay zekanın lider laboratuvarlarından OpenAI, adı üzerinde açık kaynak olarak başlamışken, ne oldu da yapay zekâ çalışmalarında lisans talep eden kutupta yer aldı? 

Bu işten anlamayanlar için burada çok kafa karıştırıcı bir süreç olabilir. Adım adım anlatmaya çalışacağım.

Özgür yazılım nedir?

“Özgür Yazılım” denilen yazılım türü, kullanıcıların bir izin ya da ücret olmaksızın, onu herhangi bir amaç için çalıştırmasına, incelemesine ve değiştirip yeniden dağıtmasına olanak veren bir yazılım türünü ifade ediyor. 

Hatta yazılım türünden öte bir hareket, ilkesel bir duruş olarak tanımlanabilir. 

İngilizce ‘Free’ kelimesinin çift anlama gelmesinin yarattığı karmaşa burada ilginç bir durum yaratıyor. Çünkü Free, İngilizcede hem bizim Türkçedeki “Özgürlük” kavramını ifade ediyor hem de bir mal ya da hizmetin ücretsiz olmasını. 

“Özgür Yazılım” hareketinin başlatıcılarından Richard Stallman bu karmaşıklığı gidermek için “Özgür Yazılım dendiğinde aklınıza “Bedava bira değil, konuşma özgürlüğü gelsin” benzetmesine başvuruyor. Ayrıca kimi durumlarda Free yerine Fransızca ve İspanyolca’da yer alan -ve free gibi karışıklık yaratmayan- Libre kelimesine başvuruluyor. 

Açık kaynak nedir?

Stallman’ın bu uyarılarına rağmen kafa karışıklığı devam etti. 1998 yılında Özgür Yazılım Hareketi’nden bir grup ayrıldı ve Özgür Yazılım ifadesi yerine Açık Kaynak ifadesini kullanmaya başladı. 

Amaçları hem bu karışıklığı gidermek hem de özgürlük sözcüğünün iş dünyasında yarattığı olumsuz çağrışımlara son vermekti. Kimileri bu iki terimin aynı anlama geldiğini söylese Richard Stallman buna hep karşı çıktı ve iki kavramın felsefi olarak aynı şeyi ifade etmediğini söyledi. 

Ona göre Açık Kaynak diyenler, kavramın etik ve sosyal değerlerini reddediyorlar ve sadece pratik faydasına odaklanıyordu. Stallman, Açık Kaynak ifadesini tercih edenlerin, kullanıcılara her koşulda özgürlük verme ilkesi yerine, sadece güçlü ve güvenilir bir yazılım yapmakla ilgili olduğunu vurguluyordu. 

Her “özgür yazılım” açık kaynak koduna sahipti ama her açık kaynaklı yazılım özgür olmayabilirdi. 

Yine de iki kampın birbirini düşman olarak görmesine gerek yoktu ve belli durumlarda birlikte de çalışabilirlerdi. 

Özetle, açık kaynak, iş dünyasının pratik ihtiyaçlarına daha çok hizmet ediyordu. Lisanslı yazılımın devlerinden Microsoft ile Sun Microsystems arasındaki davalar filan derken, o yıllardan bu tarafa köprülerin altından epey su aktı. 

Çıkar ortaklığı

Gelelim, geçen hafta kaldığımız yere. OpenAI, adı üzerinde açık kaynak odaklı kurulan bir şirketken, nasıl oldu da yapay zekâ çalışmalarının belirli bir lisans altında sürdürülmesini isteyecek hale geldi? Meta ise nasıl oldu da açık kaynak kodunu savunur bir pozisyonda kaldı? 

Evet, OpenAI bunu “yapay zekâ teknolojisinin güvenlik önlemleri alınmadan kötü niyetli odakların eline geçmemesi için” olarak açıklıyor. 

Meta ise “kaynak kodu açık olsun ki mimarideki hataları topluluk aklıyla daha çabuk anlayıp daha hızlı geliştirelim” gerekçesine bağlıyor. 

Geçen hafta da vurgulamıştım. Bana kalırsa, her iki taraf da kendi ticari çıkarları doğrultusunda pratik ihtiyaçtan bunu yapıyor. Yani Stallman’ın altını çizdiği farklılık burada daha net ortaya çıkıyor. Burada, bir taraf adı açık (open) iken kapalı olmayı, diğer taraf ise pratik ihtiyaçlarla açık kalmayı tercih ediyor. Bu örnek Özgür Yazılım ile Açık Kaynaklı ifadelerinin farkını daha iyi görmemizi sağlıyor. 

İki tarafın da Özgür Yazılım olmadığı konusunda şüphe yok.

Open AI neden kuruldu?

OpenAI’nin hikayesine dönersek. OpenAI, 2015 yılının sonlarında yapay zekânın varoluşsal risklerine karşı kurulmuş kâr amacı gütmeyen bir şirketti. Bu teknolojinin insanlığın faydasına olacak şekilde gelişmesi için çalışmalar yapacaktı. Bunun için de patentlerin ve çalışmaların halka açık olması gerekiyordu. OpenAI ismi işte buradan geliyordu. 

Amaç, bir insanın yapabileceği herhangi bir zihinsel görevi, yapay zekanın başarıyla yerine getireceği seviye olan Yapay Genel Zekâ’ya insanlığı sağ salim ulaştırmaktı. Şirketin kurucuları arasında, bugünkü CEO’su Sam Altman ile birlikte; Elon Musk, Reid Hoffman, Jessica Livingston, Ilya Sutskever, Peter Thiel gibi isimler vardı ve başlangıçta 1 milyar dolar bağışlanmıştı. Elon Musk, 2018 yılında görünürde “Tesla’daki yapay zekâ çalışmalarının çıkar çatışması yaratması” gibi bir gerekçeyle şirketin yönetiminden ayrıldı ancak bağışçı olarak kaldı. 

Kâğıt üzerinde bağışçı olarak kalsa da bir daha hiç bağış yapmadığı biliniyor. İddialara göre bu ayrılığın asıl sebebi, Musk’ın, Sam Altman ile girdiği şirket içi yönetim savaşını kaybetmesiydi.  

OpenAI neden dönüştü?

2019 yılına gelindiğinde, OpenAI, teknolojiyi geliştirmenin maliyetlerini gerekçe göstererek şirket bünyesinde kâr amacı güden bir şirket kurulduğunu açıkladı. Bu konuda öncü olmak için bunun gerekli olduğunu düşünüyorlardı. 

Bu karar açıklanırken, Sam Altman, kâr amacı güden bu yeni şirketten hiçbir hisse almayacağını söyleyerek bir şövalyelik de yaptı. Ne var ki su bulanmıştı. Bu karardan altı ay sonra, bir zamanların lisanslı yazılım kralı Microsoft, OpenAI’ye 1 milyar dolar yatırım yaptı. Bu yatırımla birlikte ChatGPT ve DALL-E’yi yaratacak süper bilgisayarın da inşası başlamış oldu. Böylece OpenAI’nin “open”liği ile ilgili tartışmalar da arttı. 

Musk’ın itirazları

Bu tartışmalarda kendisi de hali hazırda bir yapay zekâ şirketi sahibi olan Elon Musk’ın rolü büyük. Bir defa Twitter’ı satın alır almaz, OpenAI’nin Twitter verilerinden beslenmesini sağlayan anlaşmayı bitirdi ve buradaki musluğu kapattı. 

Ardından geçen şubat ayında şöyle bir tweet attı: “OpenAI, Google’a karşı bir denge görevi görecek, kâr amacı gütmeyen bir şirket olan açık kaynaklı bir şirket olarak kuruldu (bu yüzden ona “Açık” AI adını verdim), ancak şimdi Microsoft tarafından etkili bir şekilde kontrol edilen kapalı kaynaklı, maksimum kârlı bir şirket haline geldi. Hiç de amaçladığım şey değildi.” 

Mart ayında attığı bir tweette ise konuyu piyasa değerine getirdi: “100 milyon $ bağışta bulunduğum kâr amacı gütmeyen bir kuruluşun nasıl olup da bir şekilde 30 milyar $’lık kâr amaçlı bir piyasa değeri haline geldiği konusunda hâlâ kafam karışık. Bu yasalsa, neden herkes yapmıyor?”

Asıl çaresizliğimiz

Elon Musk’a çoğunlukla kızıyoruz, bazen yaptığı çılgınlıklara anlam veremiyoruz, gözü dönmüş bir şekilde Twitter’ı kârlı bir yer haline getirme çalışmalarını dehşetle izliyoruz ama bu konuda hak vermemek elde değil. Belki bu kazançlı projenin içinde neden kalmadığına da üzülüyordur ama bizim konumuz değil. 

Tüm bu tartışmalar ışığında, OpenAI’nin geçen hafta da değindiğimiz yapay zekânın tehlikelerine karşı kapalı kaynağı temel alma ve lisans benzeri bir oluşum yaratma tarafında yer almasını nasıl değerlendirmeliyiz? Gerçekten kuruluş ilkelerine bağlı olarak insanlığın faydalarını mı düşünüyorlar, yoksa pratik bir şekilde maksimum kârlılığı mı? 

Diğer yandan Oxford Üniversitesi’nden Nick Bostrom gibi önemli düşünürler bile “Eğer dünyaya kötü şeyler yapabilecek bir düğmeniz varsa, onu herkese vermek istemezsiniz” diyor. Dolayısıyla teknolojinin açıkta gelişmesinin de riskleri var. 

Burada asıl büyük çaresizliğimiz, tartışmayı sürükleyenin şirketler olması ve devletler tarafında bu konulardan anlayacak yeterlilikte kadroların bulunmaması. 

O nedenle, geçen haftaki devletlerin bir araya gelerek uluslararası bir düzenleme kuruluşu kurması önerim de gerçekleşmesi oldukça zor bir hayal (politik nedenlerle de). 

Tüm bu nedenlerle bilgisayar tarihinin erken dönemindeki Özgür Yazılım-Açık Kaynak tartışmasına kadar uzandım. Her ben açık kaynağım diyene güvenemeyeceğimiz gibi, kâr amaçlı hiçbir kuruluşa da bu teknolojinin geleceğini gözü kapalı emanet edemeyiz. 

İnsanlık tarihi açısından zor bir dönemeçteyiz.