Bana Güvenebilir Misiniz: Kimdir Bu Sam Altman?

Herkese merhaba. Ben Barış Özcan. 111. frekansa hoş geldiniz.

Neden bizi inanmalıyız? Bana güvenmemelisiniz. Burada kimseye güvenilmemeli. Bana ekstra söz hakkı veren hisselere sahip değilim, onları istemiyorum. Yönetim kurulu beni kovabilir. Bence bu önemli. Yönetim kurulunun zamanla tüm insanlığı kapsayacak şekilde demokratikleşmesi gerektiğini düşünüyorum. Bunun uygulanabileceği birçok yol var.

Geçtiğimiz Haziran ayında düzenlenen Bloomberg Teknoloji Zirvesi'nde kendisine yöneltilen neden size güvenmeliyiz sorusuna işte böyle yanıt vermişti OpenAI'ın CEO'su Sam Altman. Böyle tek başına duyunca biraz tuhaf geliyor değil mi bağlamından koparılınca. Sonuçta içinde güven kelimesinin yer aldığı bir soru için güvenmesi epeyce güç olan bir cevap gibi duruyor bu.

İşte Altman'ın bu cevabından 5 ay sonra olanlar oldu. İçinizde takip edenler varsa malumudur. Ben de bir video yapmıştım zaten hemen arkasından. Teknoloji dünyası adına son zamanların en şok edici gelişmelerinden biriydi bu. Koca bir sektörün gündemini değiştiren bir haberdi. OpenAI şirketin CEO'su Sam Altman'ı bir anda öyle kovma kararı almıştı. Kimileri yaşananlara bir anlam veremiyor. Kimileri ise bu kararı çok büyük bir hata olarak değerlendiriyordu. İşin tuhafı OpenAI'ın yönetim kurulu aldığı kararın üzerinden daha bir hafta bile geçmeden Altman'ı görevine geri getirdi. Ben de bu haberin üzerine işte az önce sözünü ettiğim YouTube'da da bir video çekip oluşturduğu yankıları, düşündürdüklerini filan paylaştım sizlerle. Şimdi ise burada podcast'a hikayenin daha da derinlerine biraz da geçmişine odaklanacağız. Nedir bu süreçte yaşananlar? Kimdir bu Sam Altman? Neyi savunuyor? OpenAI ile neden ters düştü?

Ona neden güvenmeli ya da neden güvenmemeliyiz?

Ne çok soru var değil mi? Ama bu sorulara gelmeden önce bilmeyenler için geçtiğimiz günlerde yaşananları şöyle kısaca bir özetlemek, yani kaseti biraz geriye sarmak gerekiyor.

17 Kasım'da ABD borsalarının kapandığı esnada ChatGPT ve DALI gibi gelişmiş yapay zekaları geliştiren OpenAI şirketinin yönetim kurulu toplandı. Daha doğrusu bu şirketin kar amacı gütmeyen kısmı olan yönetim kurulu. Toplanma sebepleri ise 2020'den beri şirketin CEO pozisyonundaki Sam Altman'ın görevden alınmasıydı. Yapılan oylama sonucunda kurul Altman'ın OpenAI'dan kovulmasına karar verdi. Bu kararın ardından gelen açıklamada Altman'ın kurulla tutarlı ve samimi bir şekilde iletişim kurmadığını, bu tutumuyla kurulu kısıtladığını ve şirkete liderlik etme becerisine dair güvenlerinin de bu nedenle tükendiğini gerekçe olarak göstermişlerdi. Haberin ardından şirketin kurucu ortaklarından Greg Brackman da istifa ettiğini duyurdu. Onun peşinden OpenAI'ın araştırma biriminde görev alan 3 üst düzey araştırmacı da hemen istifasını verdi. Ancak olanlar burada da bitmedi. Ertesi sabah yani 18 Kasım'da OpenAI'ın operasyon direktörü Brad Lightcap şirketin çalışanlarına şöyle bir mesaj gönderdi.

Mesajında Sam Altman'ın kovulmasının görevi kötüye kullanma gibi bir sebepten kaynaklanmadığı, Sam ve kurul arasında ciddi bir görüş ayrılığı yaşandığı ifade ediliyordu. Aynı gün kurulun kararına tepkili olan yatırımcılar Sam Altman'ı yeniden CEO yapmak için görüşmelere başladılar. Ve 20 Kasım'da ise Microsoft yeni bir projede çalışmak üzere Sam Altman ve Greg Brackman'ı transfer ettiğini duyurdu. Hemen ardından ikili Microsoft bünyesinde sıfırdan yepyeni bir şey inşa edeceklerini ilan ettiler Twitter alemine. X alemine. 22 Kasım'da ise yılan hikayesine dönen bu OpenAI Sam Altman'ın ayrılığı son buldu. Şirket yaptığı açıklamada Altman'ın yeniden CEO görevine döneceği haberini servis etti.

Bu süreç böyle filmlerde dizilerde filan karşımıza çıkıyor daha çok değil mi? Muhtemelen yakında Netflix de hemen bunun bir filmini dizisini filan yapar herhalde. Sadece 5 günde yaşanan bu gel gitleri düşündüğümüzde bile insanın aklı karışıyor. Fakat bu tür aksiyonların böylesi büyük şirketlerde yaşanması biraz da normal aslına bakarsanız. Neyse ki şirkette sular şimdilik durulmuş gibi görünüyor ama gelin biz biraz daha geçmişe dönelim ve az önce sorduğumuz sorulardan birine yanıt arayalım. Kimdir bu Sam Altman?

1985 doğumlu Altman 2005'de Stanford Üniversitesi'nde bilgisayar mühendisliği okumaya başladı. Daha okulun ilk yılında birkaç arkadaşıyla öyle eğlencesine bir proje geliştirdi Sam. Kullanıcıların birbirleriyle lokasyonlarını paylaşmasını sağlayan bir uygulamaydı geliştirdikleri Loopt. Evet daha ortada iPhone ya da diğer akıllı telefonlar bile yokken üstelik mobil uygulamaların kullanımı henüz yaygınlaşmamışken geliştirmişlerdi böyle bir projeyi. Ve haliyle Sam de dikkatleri üzerine çekecekti. Tahminen onun için Stanford'ın yeni yıldızı bile diyenler olmuştur diye düşünebilirsiniz elbette ancak hikaye pek de öyle devam etmedi arkadaşlar. Sam ilk yılının sonunda okulu bırakma kararı aldı. Yani biraz klasik tabi bu hani okulu bırakan o Silikon Vadisi yöneticilerinin peşinden izinden gittiğini söyleyebiliriz. Fakat bu bir sonun değil başka bir başlangıcın tetikleyicisiydi. Ünlü bir bilgisayar programcısı ve yatırımcı olan Paul Graham'ın internette paylaştığı bir ilan onun ve arkadaşlarının da hikayesindeki kırılma noktası olacaktı.

Graham yeni bir girişimcilik topluluğu oluşturuyordu. Özellikle de bilgisayar programcılığı alanında böyle parlak fikirleri olan gençler için part time yarı zamanlı bir çalışma fırsatı sunuyordu bu topluluk. Bu ilanın geleceğe dair hayal ettirdiklerini de çantasına atan Sam bir daha dönmemek üzere Stanford'dan ayrılmıştı. Daha sonra Graham'ın davetiyle Y Combinator isimli bu girişim hızlandırma programına katıldı Altman. Burada böyle bedava yemek işte 6000 dolar gibi sektör için pek de ufak sayılabilecek bir bütçeyle kendi projelerini geliştirmeye başlayan ilk ekibin içinde yer aldı. Bu arada bu Y Combinator teknoloji dünyası açısından epey önemli bir topluluk. Hani böyle telaffuzla belki kafanız karışmış olabilir. Ye kombinatör diye yazılıyor İngilizce'de. Ve bu çatı altında kimler kimler var. Airbnb, Dropbox, Reddit gibi böyle birçok ünlü uygulamanın tohumları temelleri bu toplulukta atılıyor.

Sektörde Kingmaker sıfatıyla anılıyorlar hatta. Kral yapıcı.

İşte bu Paul Graham da insanların bağ kurabileceği fikirlere sahip çıkan bir vizyona sahip. Şayet böyle bir fikirle karşılaşırsa kimden çıktığını hiç önemsemeden hemen ona bir şans veriyor. İşte bizim Sam Altman da bu vizyonun ışığında yetişti diyebiliriz part-time bir çalışan olarak girdiği Y Combinator'a. Evet ve ama daha sonra ne oluyor tabii? 2011'de partner oluyor. 2014'te ise başkan. Değeri 65 milyar doları aşan şirketin başına geçtiğinde de tam olarak 28 yaşında Sam Altman. Takvimler 2015'i gösterdiğinde ise Elon Musk, Ilya Suskever ve Greg Brockman'la birlikte kar amacı gütmeyen Open AI'yi kuruyorlar hep birlikte. Evet isimleri doğru duyduğunuz aralarında Elon Musk da var. Zaten ilk yatırımcısı aynı zamanda Open AI'in. Bu şirketi kurmaktaki esas amaçları ise dijital zekayı insanda maksimum fayda sağlayacak şekilde geliştirmek olarak duyurdular. Bu dijital zeka işte yapay zeka. AI.

Open AI'in kurulmasından sonraki ilk iş ise yapay zeka alanında önde gelen araştırmacılardan oluşan tabii bir takımı toparlamak oldu. Bu ekip güvenli bir şekilde arttırılmış zeka ve makine öğrenmesi üzerine bir programın tasarlanması için hemen kollarını sıvadı. 2016 ile 2022 yılları arasında yapılan sıkı çalışmalar ve test süreçlerinin ardından Open AI'in ilk alameti farikası ChatGPT hepimizin bildiği gibi kullanıma açıldı. GPT'den böyle 2020'den itibaren bahsetmeye başlamışlardı zaten ama hani bu son kullanıcının böyle sohbet eder gibi gayet rahat bir şekilde kullanabileceği bir uygulama olarak öne çıktı. Ancak Open AI çalışanları tasarladıkları bu yapay zekanın tabii böylesine popüler olacağını kendileri bile düşünmüyorlardı. Bu kadar büyük en azından hedefleri yoktu. Hatta şimdilerde günde 100 milyon kişinin kullandığı bu uygulamanın yayınlanmasındaki temel fikir kullanıcılar tarafından gelecek gönderilecek bir takım geri bildirimlerle İşte bu GPT'nin kusurlarının fark edilip giderilmesiydi ki zaten bu süreçte GPT'nin yazılım ekibi sürekli olarak bu kusurları tespit edip gidermeye çalıştı.

Yani açık beta programı gibi düşünebiliriz. Ve bu sayede de program 23 kez güncellendi. Bu da milyonlarca insanın GPT'nin sınırlarını, limitlerini test etmesi sayesinde oluyor tabii. Yani GPT'nin kusurlarını da kullanıcıları saptıyor diyebiliriz. Dedim ya open beta.

Sam Altman ve Open AI'ın macerası işte böyle başladı. Chat, GPT, Dali gibi işte bu bir takım uygulamalarla milyonlarca insana ulaştılar. Ancak bu romantik hikaye de bir noktada sonlanmış. Neticesinde Open AI'ın yönetim kurulu ve Sam bir şekilde ters düşmüştü. Peki sonu bir krize varan bu sürecin altında yatan esas gerekçeler neler? İşte bu sorunun cevabını da kısa bir aradan sonra ele alacağız.

Nerede kalmıştık? Sam Altman ve Open AI arasındaki krizin derinlerine inecektik değil mi? E konu Open AI olunca bir isimden daha bahsetmemiz gerekiyor. Şirketin baş bilimcisi, baş bilim insanı İlya Sutskever'den.

Sutskever Google Brain'de çalıştığı 3 yılın ardından Elon Musk'ın davetiyle Open AI'ın kurucu kadrosuna dahil oldu. İlk başlarda Chat, GPT'nin böylesine bir başarı sağlayacağını tahmin dahi etmediğini söylüyor sık sık kendisi yaptığı konuşmalarda. Bununla birlikte yapay zekanın potansiyel tehlikeleri olduğuna dair endişelerini de dile getirmekten hiç çekinmiyor. Buna alignment problemi deniyor. İşte hizalanması, yapay zekanın tehlikelerine karşı önlemlerin daha şimdiden alınması diye tercüme edebiliriz belki. Örneğin diyor ki 10 yıl içerisinde insanlardan daha üstün bir yapay zekanın ortaya çıkacağına inanıyorum. Bunu İlya Sutskever söylüyor. Yapay zekaların gelecekte istihdam, hastalık, yoksulluk gibi insanlığa ait bir takım derin sorunları çözme gücüne sahip olacaklarını da düşünüyor tabii ama öte yandan da işte bu otomatik yapay zeka silahlarının ortaya çıkacağını hatta sonsuza dek sürebilecek bir takım diktatörlükler gibi yeni sorunların da yaşanabileceğini iddia ediyor.

Ancak Sutskever'in başka bir endişesi daha var. Başlangıçta kar amacı gütmeyen bir araştırma kuruluşu olarak konumlandırılan Open AI'ın kısa zamanda büyük bir finansal gelir elde edebilmesi onun en büyük endişelerinden. Zira şirket daha büyük yatırımlar alıp yapay zekanın gelişim hızı kontrol edilemez bir boyuta hızla gelirse insanlığı bir felaketin beklediğini düşünüyor. Şu anda potansiyel olarak süper zeki bir yapay zekayı yönlendirmek, onu kontrol etmek veya yoldan çıkmasını önlemek için bir çözümümüz yok şeklinde. Ki sözleriyle de işte bu endişesinin altını kalın kalın çiziyor Sutskever. Yapay zekayla ilgili şu anki chat GPT'nin yaptıkları ile kendinizi sınırlı düşünmeyin lütfen. Çünkü AGI veya ASI yani Artificial General Intelligence veya Artificial Super Intelligence gibi bunun ileride dönüşebileceği bazı eşik noktaları hayal ediliyor bunlar söylenirken. İşte tam da bu noktada ayrışıyor Altman ve Sutskever.

Daha doğrusu bunların temsil ettiği iki ayrı grup. Bir tarafta hızlı bir ekonomik büyüme, teknolojik gelişmeyi hedefleyenler duruyor. Diğer tarafta ise yapay zekanın kontrol edilememesine dair endişeler barındıranlar. Efektif altruistler de deniyor. Ya da Türkçe isimleriyle işte özgeciler filan diye çevriliyor.

Bu efektif altruizmi kısaca kabaca en acil küresel sorunları maksimum sayıda insanın yararına çözmek için araştırma yapmayı ve akıl yürütmeyi amaçlayan bir hareket olarak tanımlayabiliriz. Ki kendileri bunu felsefe filan diyerek daha da ileri noktaya götürüyorlar. Burada önemli olan nokta ise yaptığınız iyilik karşısında herhangi bir beklenti içinde olmadan tamamen empati kurularak hareket edebilmek. Örneğin bu düşünceye sahip olan kişiler Afrika'da susuzluğu gidermeyi ya da gelecekte yaşanabilecek yeni bir salgın hastalığı önlemeyi terör olaylarını durdurmaktan bile daha önemli görüyorlar. For the greater good yani daha büyük bir iyilik hedefiyle çalıştıklarını iddia ediyorlar.

Son dönemde bu efektif altruistler insanlığı yok etme potansiyeli olan tehlikeler üzerine de düşünmeye başladı. Nükleer savaş ya da pandemi gibi tehlikelerin yanında yapay zekaların dünyayı ele geçirebileceği böyle bir AI apokalips bir yapay zeka kıyameti de kendi listelerine eklenmiş durumda. Öyle ki 2000'li yılların başından bu yana birkaç yapay zeka teorisyeni güçlü bir yapay zekanın ortaya çıkmasının insanlık için tehlike hatta kıyamet anlamına gelebileceğini dahi öne sürüyor. Bunlar hatta Doomer deniyor o yüzden. Kıyametçi deniliyor. Ve bu fikir yapay zeka oluşturma çalışmalarından kaynaklı feci sonuçları önlemeyi amaçlayan yapay zeka güvenliği konusunu da tabii böyle manşetlere taşıyor. İnsanlar böyle şeyleri seviyor ya birazcık. Felaketlerle allığını. İlya'nın da savunduğu gibi yapay zeka konusundaki ilerlemeyi kontrollü bir şekilde gerçekleştirmezsek başımıza büyük felaketler gelebilir.

Zaten o da bu tip teknolojilerin bürokrasi ya da siyasetle birlikte şekillenmeden önce teknik anlamda daha sağlıklı ve özgür bir ortama ihtiyaç olduğunun altını çiziyor. Ki YouTube'daki videomda da bahsettiğim 2019 yapımı belgesel iHuman'da yapay zekanın birçok sorununa çare sunduğu kadar yeni tehlikelere de zemin hazırladığı konusunda da net bir şekilde uyarıyor bizi İlya.

Bu arada bir not daha düşeyim bu efektif altruizm konusunda. Şimdi bu karşılıksız iyilik gibi gözükse de bir takım eleştirilere de maruz kalıyor ve özellikle de zaten gündeme son dönemlerdeki bir başka fiyaskoyla geldi. Takip edenler bilecektir. FTX denilen bir şey vardı iflas etti işte onun kurucusu genç Sam Bankman Fryden'da kendisini böyle tanıttığına tanık oluyoruz. Ben bir efektif altruistim işte bu kadar parayı kazanıyorum çünkü insanlara faydalı olmak için bunu geri vereceğim gibi bir takım söylemleri vardı. Ne kadar samimiydi ya da değildi hani o tartışmalara burada girmek doğru olmaz. Konumuz yapay zeka onun sınırlarını aşmayalım. Ama bir yandan da hani böyle bazı insanların toksik bir kültür yaratmak için kullandıkları bir bahane olarak da karşımıza çıkıyor. Eğer niyet okumaya kalkarsak. Ben İlya Suskever'in bugüne kadar yaptığı açıklamalardan böyle bir okuma gerçekleştirmedim.

Kendisi baya baya böyle geek bir şekilde bu konuları zaten çok iyi bilen hatta işte makine öğrenmesinin kurucularından birinden ders alarak yetişmiş işin merkezinde kalbinde yer alan insanlardan biri.

İşte Sam ile İlya'nın ayrıştıkları nokta az önce söylediğim konu ki İlya'da bu zıtlık dolayısıyla zaten yönetim kurulunun yaptığı ilk toplantıda Sam'in aleyhinde oy kullanmıştı. Her ne kadar birkaç gün sonra Altman'ın tekrar CEO görevine geri alınması yönündeki karara destek verdiğini açıklasa da yapay zeka gelişimindeki hıza dair duyduğu endişeler baki. Zaten hani o olaylar sırasında 770 kişinin çalıştığı Open AI'da neredeyse bir isyan çıktı bu karara karşı ve 700 kişi ya biz istifa edeceğiz eğer Sam Altman dönmezse dedi. E bu durumda İlya'da herhalde zaten kendi başına yapay zekanın güvenliğini sağlamak üzere kurulmuş böyle bir ekibin başka tarafa geçmesini arzulamazdı diye tahmin ediyorum.

Son olarak bölümün en başında sorduğumuz bir soruyu tekrar hatırlatacağım şimdi size. Sam Altman'a güvenmeli miyiz geri döndüğüne göre? Bu elbette çok kişisel cevaplar verebileceğimiz bu soru ancak kime veya neye güvenip güvenmeyeceğimize karar vermeden önce yaşanan bu tür süreçleri iyi analiz etmemiz gerekiyor. Gündemin akışına kapılmadan evvel tarafların savunduğu şeyleri iyi anlamalıyız. AI meselesini sadece popüler bir konu olarak değil detaylarıyla incelenmesi gereken ciddi bir süreç olarak ele almak ve bence yeri geldikçe gündemde tutmak gerekiyor. Böylece bu gelişmeleri hem bu konunun meraklısı olan bizler hem de o kadar da kafaya takmayan kamuoyu daha iyi kavrayabilir, kime ya da neye güvenebileceğini daha net seçebilir. Bakalım bu çalkantılı Altman OpenAI süreci gelecekte nelere yol açacak ve tarihte nasıl bir yer bulacak? Bu dönemin tanıkları olarak hep birlikte göreceğiz. Takipte kalın.