Öncelikle “The AI Doc: Or How I Became an Apocaloptimist” belgeselinde anlatılanları sizinle paylaşıp bu sorunun cevabını arayacağız. Yazının sonunda da kendi fikirlerimi paylaşacağım. Belgeselin başlığının tercümesiyle başlayalım. Yapay Zekâ Belgeseli: Ya da Nasıl Bir Apokaloptimiste (Kıyamet İyimseri) dönüştüm. Burada en anlamlı kelime “Apocalypse” ile “Optimist” kelimelerinin birleşiminden türetilen “Apocaloptimist” kelimesi.
Burada Türkçe’ye de giren “optimist” kelimesinin “iyimser” anlamında kullanıldığını hepimiz biliyoruz. Apocalypse kelimesinin anlamı ise kıyamettir. Esasında kökeni eski Yunancaya dayanır ve “yeni bir başlangıç yapmak”, “açığa çıkarmak”, “örtüyü kaldırmak” veya “vahiy” anlamlarına da gelir. Tabii belgeselde kıyamet anlamında kullanılmış, yapay zekânın hem kıyameti getirebileceğine hem de bize parlak bir gelecek sağlayabilme potansiyeline inanmak anlamında; kıyamet ihtimalini ve iyimserliği aynı anda barındırma durumunu betimlemek için kullanılmıştır. Başka bir deyişle “Felaket ihtimalinin farkında olan, buna rağmen iyi bir gelecek için çabalamayı seçen iyimser” şeklinde karşılanabilir. Benim için kavramın değerli tarafı umut ile sorumluluğu birleştirmesi; zayıf tarafı ise somut eyleme dönüşmezse yalnızca rahatlatıcı bir tutum olarak kalabilmesi.
Gelecek kuşaklara sorumluluk duygusu
Belgeselin esasında çok anlamlı bir başlangıç noktası var. Daniel Roher ve Charlie Tyrell’in yönettiği belgesel, baba olmaya hazırlanan Roher’in yapay zekânın geleceğini anlamaya çalışmasını merkezine alıyor. Böylece teknik bir konu, gelecek kuşaklara karşı sorumluluk meselesi üzerinden anlatılıyor. Belgeselin fragmanını paylaşıyorum: https://www.universalpicturesathome.com/movies/the-ai-doc-or-how-i-became-an-apocaloptimist
Belgeselin en güçlü tarafı, yapay zekâ tartışmasını insani bir soruya dönüştürmesi: “Çocuklarımıza nasıl bir dünya bırakıyoruz?” En tartışmalı tarafı ise, felaket ve kurtuluş senaryolarının duygusal ağırlığının, bunların kanıt düzeyini gölgede bırakabilmesi.
Belgeselin kurduğu tartışma
Film, önce yapay zekânın ciddi tehlikelerine odaklanan sesleri, ardından büyük faydalar bekleyenleri ve şirket yöneticilerini dinliyor. Sam Altman, Dario Amodei ve Demis Hassabis gibi sektörün önemli isimlerinin yanında, Eliezer Yudkowsky, Tristan Harris ve Aza Raskin gibi farklı risk yaklaşımlarını temsil eden kişiler bulunuyor. Felaketçilerle iyimserler arasındaki farkları aşağıdaki tabloda yorumluyorum. Burada tüm taraflara ek sorulması gereken soruları da paylaşıyorum:
| Yaklaşım | Temel düşünce | Bence sorulması gereken soru |
| Felaket riskine odaklananlar | Çok güçlü sistemlerin kontrolünü kaybedebiliriz. | Hangi mekanizma üzerinden, hangi koşullarda ve ne düzeyde kanıtla? |
| Teknoloji iyimserleri | Yapay zekâ bilimsel ilerlemeyi ve refahı hızlandırabilir. | Bu faydaya kim erişecek, maliyetini kim üstlenecek? |
| Şirket yöneticileri | Geliştirmeye devam ederken güvenliği sağlayabiliriz. | Güvenliği kim bağımsız olarak doğrulayacak? |
| “Apocaloptimist” yaklaşım | Tehlikeyi kabul edip olumlu sonucu mümkün kılmalıyız. | Hangi kurallar ve kurumlar bunu sağlayacak? |
Buradaki önemli ayrım şu: Birbirine zıt görüşleri göstermek, bu görüşlerin eşit derecede kanıtlandığı anlamına gelmez. Belgeseli izlerken her konuşmacının uzmanlığını, çıkar ilişkisini ve iddiasının doğrulanabilirliğini ayrı ayrı değerlendirmek gerekir.
Güçlü bulduğum tarafları
İlk olarak, baba olma hikâyesi soyut riskleri anlaşılır kılıyor. Baba olma hissiyatı ve sorumluluğu çok insani bir durum. Yapay zekânın geleceği yalnızca model performansı veya şirket değeri üzerinden konuşulduğunda, toplumsal sonuçlar arka planda kalabiliyor. Roher’in kaygısı, izleyiciyi “Bu teknoloji ne yapabilir?” sorusundan “Çocuklarımız için nasıl bir yaşam kurmak istiyoruz veya nasıl bir gelecek sağlayacağız?” sorularına taşıyor.
İkinci olarak, anlatımın insan emeğini görünür kılan bir estetiği var. Yapımcılar el yapımı çizimler ve stop-motion animasyon kullanmış. Ben bunu filmin konusu açısından anlamlı buluyorum: İnsan yaratıcılığının geleceğini sorgularken, anlatımın kendisinde de insan dokunuşunu öne çıkarıyorlar.
Üçüncü olarak, şu önemli soruyu sormak gerekiyor: Toplumu derinden etkileyen bir teknolojide karar yetkisi, sorumluluk ve risk aynı kişilerde mi toplanıyor? Bir şirketin yöneticisinin iyi niyetli olması değerlidir; fakat kamu güvenliği açısından bağımsız denetim şarttır.
Belgeselde katıldığım ve katılmadığım görüşler:
1) “Yapay zekâ ciddi riskler yaratabilir”: Katılıyorum.
2) “İnsanlığın yok oluşu kesin veya yakın”: Kanıtlanmamış, kabul etmiyorum.
Burada bugünkü zararları, geleceğe ilişkin risk senaryolarından ayırmak gerekiyor. Dolandırıcılık, izinsiz üretilen mahrem görüntüler ve güvenilir olmayan çıktılar gibi zararlar belgelenmiş durumda. İnsanların bir sistemi bütünüyle kontrol edememesi ise farklı bir risk kategorisi.
Şubat 2026 tarihli International AI Safety Report, o tarihteki sistemlerin bu kapsamlı kontrol kaybını doğuracak kapasiteye sahip olmadığını, ancak ilgili bazı yeteneklerin geliştiğini belirtiyor. Rapor, ilerlemenin hızı ve gelecekteki sonuçları konusunda da “belirsizliği” vurguluyor. Dolayısıyla bence bazı riskleri ciddiye alıp bunları gerçekleşmiş veya kaçınılmaz gibi sunmamak gerekiyor.
3) “Yapay zekâ insanlığın büyük sorunlarını çözebilir”: Potansiyeline katılıyorum; kendi kendine gerçekleşeceğine katılmıyorum.
Daha iyi bir bilimsel araç, tek başına daha adil bir toplum yaratmaz. Örneğin bir tedavinin geliştirilmesini hızlandırmak ile o tedavinin herkese ulaşmasını sağlamak ayrı işlerdir. İkincisi üretim, erişim, kamu politikası ve kaynak dağılımı gerektirir.
Bu nedenle iyimser söylemleri değerlendirirken yalnızca “Neler mümkün olabilir?” sorusuyla yetinmememiz gerekir. “Kimin hayatında, hangi koşullarda, ölçülebilir bir iyileşme yaratacak?” sorusunu da sormak lazım.
4) “Yapay zekâ işleri ortadan kaldıracak”: Bu kadar genel bir ifadeyi doğru bulmuyorum.
Bir işin bazı görevlerinin otomatikleştirilmesi, mesleğin tamamının yok olmasıyla aynı şey değil. ILO’nun (International Labor Organization) 2025 çalışması, dünyada çalışanların yaklaşık dörtte birinin üretken yapay zekâya bir ölçüde maruz kalan mesleklerde bulunduğunu; çoğu iş için dönüşümün, tamamen ortadan kalkmaktan daha olası olduğunu söylüyor. Bu, geçişin kolay veya herkes için olumlu olacağı anlamına gelmiyor (Bkz: https://www.ilo.org/publications/generative-ai-and-jobs-2025-update?utm_source=chatgpt.com).
Bence burada belirleyici mesele, verimlilik artışının nasıl paylaşılacağı: Çalışan daha üretken olup kazancını artırabilecek mi, yoksa daha az çalışanla aynı üretimi yapmanın bedelini mi üstlenecek?
Son olarak zanaatkârlık (el işi sanat eserleri, mobilya, cam işleri vb.) gibi el emeği yapılan işlerin yerini hiçbir yapay zekâ, makine veya otomasyon alamayacak. Bunu da yazın bir kenara.
4) “Yapay zekâ iklim sorununu çözer” veya “iklim açısından yalnızca zararlıdır”: Her ikisi de eksik.
IEA’nın 2025 raporu, tüm veri merkezlerinin küresel elektrik tüketiminin 2030’da yaklaşık 945 TWh’ye ulaşmasını öngörüyor; yapay zekâyı büyümenin başlıca sürükleyicisi olarak gösteriyor. Bu sayı yalnızca yapay zekânın tüketimi değil. Aynı rapor, yapay zekânın enerji sistemlerinde verimlilik ve emisyon azaltımı sağlayabilecek uygulamalarını da değerlendiriyor.
Bence doğru değerlendirme, sapla samanı ayırarak yapılabilir. Dışarıdan hiçbir kaynak kullanmadan kendi kendine yeten veri merkezi yapmak teknik olarak mümkündür. Veri merkezi büyüdükçe ihtiyacı olan elektrik (ör: güneşten) ve su (ör: havadan) gibi kaynakların üretimini aynı lokasyonda yapabiliriz.
Belgeselin asıl zayıflığı nerede?
Benim temel eleştirim, korku ve umut arasında gidip gelen anlatının izleyiciye güçlü duygular yaşatırken karar vermek için gereken ayrımları yeterince belirginleştirememe riski.
Bir araştırmacının olasılık tahmini, bir yöneticinin gelecek vizyonu ve bugün ölçülmüş bir zarar aynı tür bilgi değildir. Geçmiş, şimdiki zaman ve geleceği birbirine karıştırmamak gerekiyor.
Filmin son bölümünde şeffaflık, bağımsız denetim, şirket sorumluluğu ve uluslararası koordinasyon yönünde öneriler bulunması değerli. Benim ölçütüm, bunların uygulanabilir yükümlülüklere dönüşmesi olurdu.
Belgesel, yapay zekâ hakkında toplumsal bir tartışma başlatmak ve seyirciyi sorumlu düşünmeye yöneltmek açısından değerli. Geleceğin nasıl olacağını belirleyen bir bilimsel hüküm gibi ele alınmamalı. “Apocaloptimism” fikrine de şu koşulla yakınım: İyimserlik; bağımsız denetim, ölçülebilir toplumsal fayda ve zarar doğduğunda hesap verebilirlikle desteklenmeli.
Şimdi bu belgeselden öğrendiklerimizi de katarak, şu ana kadarki deneyimlerimiz üzerinden çıkardığım sonuçları paylaşayım:
1) Avantaj / dezavantaj ayrımı: Yapay zekâda avantajımıza olan unsurlar dezavantajlarıyla iç içe durumda. Bu ayırımları doğru yapmak ve dezavantajlarından kurtulup avantajlarından faydalanmak gerekiyor. Örneğin:
a) Hayat kurtaran yapay zekâ aynı zamanda insanlığın sonunu getirebilir. Örneğin kansere çözüm bulan AI aynı zamanda biyolojik silah yapabilir.
b) Milyarlarca insan işsiz ve amaçsız kalabilir ama aynı zamanda insanların yapmak istemedikleri işler de AI tarafından üstlenilebilir.
c) Yapay zekâ çocuklara harika bir öğretmen olabilir ancak aynı zamanda AI ile konuşan çocuklar AI tarafından manipüle edilip intihara bile sürüklenebilir (bu olaylar şimdiden yaşanıyor).
2) Enerji: Yapay zekâ tüm teknolojilerin toplamından daha fazla kaynağa ihtiyaç duyuyor. Sürekli artan enerji talebi için enerji üreten sistemlere sürekli yatırım yapmak gerekiyor. Burada önemli olan şudur: Sürdürülebilirlik adına, yapay zekâ için kurulan sistemlerin (ör: veri merkezleri) dünyanın kaynaklarından artarak eksiltmemesi için sadece ve sadece yenilenebilir enerji ve dağıtık sistem düşünülmelidir. Yani veri merkezinin enerji ihtiyacının çatısına ve etrafındaki arazilere kurulan güneş enerji sistemi, yine yakınına kurulan rüzgar enerji santrali, yer altındaki ısı pompası sistemi, enerji depolama sistemleri (batarya vb.) ve baz yükü sağlayan diğer temiz enerji kaynakları (hidrojen vb.) ile karşılanması düşünülmelidir. Yerinde üretim ve yerinde tüketim şarttır.
3) Yapay zekâ detektörleri: %100 doğruluk payıyla çalışmalıdır: Sahte ses ve video üreten yapay zekâ Slovakya’da seçimleri etkiledi. Ukrayna yanlısı adayın sahte bir ses kaydıyla “Oyları satın alacağız” diye sahte olan beyanatı her tarafa yayıldı ve bu aday seçimi kaybetti, Rusya yanlısı aday seçimi kazandı. Bunun gibi birçok olaya tanık oluyoruz. Kafayı sistemi sürekli ilerletmeye takmış olanlar, odaklarının bir kısmını yapay zekâyı anında tespit edecek sistemler oluşturmaya yöneltmeli ve sapla saman birbirinden ayrılmalıdır.
4) Faşizmin engellenmesi: Yapay zekânın totaliter rejim sahibi devletler tarafından kullanılması engellenmelidir. Devletlerin insanlar üzerindeki gücünün artması ve totaliter rejimlerin güçlenmesinin önüne geçilmesi için, bu sistemlerin yöneticilerinin gerekli önlemleri almaları, devletlerin içinde de otokontrol mekanizmaları oluşturulması gerekir.
5) Yapay zekâ kontrolü: Yapay zekâ işinde olanları tek bir yere toplayıp kontrollü şekilde geliştirme yapmaları sağlanması gerekiyor. Bu da son hız devam eden geliştirme yarışını kontrollü hale getirip yanlış yapılmasının önüne geçer. Bunun da zenginliğin tek bir yerde toplanması gibi yan zararları olabilir. Bunun da önlemi zenginliğin belli bir yüzdesinin devletler tarafından paylaştırılması olabilir.
6) Yapay zekâ önderlerinin karakterleri: Tüm dünyada yapay zekâ gelişimine önderlik eden 5 isim konuşuluyor. Bu 5 isim belgeselde de geçti, bazılarıyla röportaj yapıldı. Bu isimlerden Sam Altman (Open AI/Chat GPT CEO), Dario Amodei (Anthropic/Claude CEO) ve Demis Hassabis (Google Deep CEO) röportajları ekrana geldi. Elon Musk (xAI/Grok) önce kabul edip sonra yoğunluktan röportaj vermemiş. Mark Zuckerberg (Meta Muse) de beklendiği üzere hiç geri dönüş yapmamış. Sürekli öne geçmek için rekabet içinde olunan bir dünyada şimdiki yapay zekâ liderlerinin karakterleri ve kafa yapıları, gelecekte yapay zekânın yazı mı kışı mı getireceğini bire bir etkileyecek. Şimdi bu yapay zekâ liderleriyle ilgili düşüncelerimi paylaşayım (hiçbirini bizzat tanımıyorum ama bana verdikleri hissiyatı aktaracağım):
a) Sam Altman: Ona bakınca sürekli gizli bir ajandası varmış ve bir şeyler saklıyormuş hissiyatı alıyorum. Open AI’ı Elon Musk gibi dünyanın ileri gelen teknoloji yatırımcılarıyla insanlığa hizmet ve yapay zekânın sağlıklı gelişimi için kurup, sonrasında kâr amacı gütmeyen bir kuruluş statüsünden çıkararak kendi kontrolüne alması affedilir bir durum değil.
b) Dario Amodei: Konuşması, hareketleri kendisinde bir delilik var hissiyatı veriyor. İyi adam izlenimi vermeye çalışıyor ama doğası gereği bazı garipliklerini saklayamıyor.
c) Demis Hassabis: Kötü bir hissiyat vermiyor ancak patronları Larry Page ve Sergey Brin’le ilgili aynı şeyi söyleyemeyeceğim. Sanki dünya umurlarında değil hissiyatı veriyorlar. Böyle bir empati yoksunluğunun Google gibi çok önemli bir arama motoru ve yapay zekâ aracını yönetenlerde olması hayra alamet değil.
d) Elon Musk: Adam kesinlikle stabil değil. Sürekli inişleri çıkışları var. Bir gün iyi adam oluyor, bir gün de kötü adam. Kafası çok karışık ve kafasının içindekilere hâkim olamıyor hissiyatı veriyor. Anlamadığı işlere de karışıyor. Siyasette kendi menfaatine olduğunu düşündüğü kötü adamlara oynuyor ve çok yanlış yapıyor.
e) Mark Zuckerberg: En beteri Zuckerberg gibi geliyor. Kendisini zaten Facebook döneminden yakında tanıdık. Onun çok günahı var. Bu günahları işlemekten çekinmiyor. İş üstünde yakalanınca da hemen safa yatıyor. Onun gibi birinin yapay zekânın önderlerinden biri olması bana hiç güven vermiyor.
Yukarıdaki yorumlarımı okudunuz. Genelde insanlarla ilgili hissiyatımda yanılmam. Tabii bu hissiyat sadece suratlarına bakıp da içime doğanlardan ibaret değil. Onlarla ilgili okuduklarım, olaylara reaksiyonları ve ellerindeki gücü nasıl yönettiklerini seneler boyunca izledim. Hissiyatım tüm bu izlenimler sonucu oluştu. Tabii burada yapay zekânın Amerikalı önderlerinden bahsediyorum. Bir de Çinliler, Ruslar ve diğer ülkelerin yapay zekâ önderleri var. Bu kişileri hiç tanımıyoruz. Basında fazla yer almıyorlar. Kimileri kapalı kapılar ardındaki büyük güçler. Umarım yapay zekâyı Amerika dışında geliştirenlerin Amerikalılardan daha düzgün kişilikleri vardır. En azından insanlığın geleceğini umursuyor, empati kurabiliyor ve zengin olmanın, gücü elinde bulundurmanın ötesinde insanlığa hizmet etme motivasyonuyla çalışıyorlardır. Aksi takdirde, yapay zekâyı geliştirenlerin çoğunluğu hırs yüzünden ve güç savaşında öne geçmek için bu işlere girişmişlerse hapı yuttuk. O zaman büyük ihtimalle kışı görürüz. Size yapay zekâ şirketlerinin en tepesinde bulunanların ne gibi bir felakete yol açabileceklerine dair birkaç örnek daha vereyim.
Olası felaket senaryoları
• Geçen hafta Anthropic ve OpenAI’da araştırmacı olarak çalışan Jacob Coxon, yapay zekâ güvenliğine ilişkin endişeleri nedeniyle Anthropic’ten ayrıldığını duyurmuştu. Coxon, X’te yaptığı paylaşımda yapay zekâ şirketlerinin “kendi kendini geliştiren ‘süper zekâya’ doğru hızla ilerlediğini” söylemişti.
• DeepSeek’te yapay zekâ geliştiricisi olarak çalışan Liu Shengyu, herkese açık WeChat hesabında Çince olarak yayınlanan “Yeteneğimi Düne Gömmekten Başka Seçeneğim Yok” başlıklı blog yazısında kendi uzmanlık becerilerini geçersiz kılabilecek bir yapay zekâ oluşturmanın gerçekliğini kaleme aldı. Liu, Business Insider’a gönderiyi kendisinin yazdığını doğruladı. Yapay zekânın yaklaşık bir yıl içinde belgeleri aramasına ve hataları tespit etmesine yardımcı olabilecek bir araçtan, GPU kodunu okuyabilen ve yazılım operatörlerini optimize edebilen bir araç haline geldiğini yazdı. Liu, “DeepSeek v4.1’in başarısından gurur duyduğu kadar”, yapay zekâ tarafından yazılan operatörlerin “büyük ihtimalle kendisininki kadar iyi olacağının, hatta onu geçeceğinin” farkında olduğunu söyledi. Blog yazısında yapay zekâ yarışına katılmak dışında bir seçeneği kalmadığını dile getiren Liu, şu ifadelere de yer verdi: “İnsanlık, kendi sonunu hazırlayacak şeyler icat etmekten hiçbir zaman geri durmadı.”
• Geçenlerde NBC’de yayınlanan yazısında Bill Gates, “Yapay zekâ kesinlikle, bilirsiniz, bir milyar kişinin ölümüne yol açabilecek olayları tetikleyecek kadar güçlü” diyor. Ayrıca Gates, ağustos ayında yayımladığı bir bildiride yapay zekâyı tarihteki neredeyse tüm diğer teknolojilerden daha büyük sonuçlar doğurabilecek bir teknoloji olarak tanımlamıştı. Gates, yazısında yapay zekânın toplum üzerindeki etkisinin iki farklı yönde ilerleyebileceğini savundu. “Yapay zekâ şimdiye kadar icat edilmiş en büyük eşitleyici ya da en kötü adaletsizlik kaynağı olacak” diyen Gates, mevcut gidişatın ciddi riskler taşıdığı uyarısında bulundu. Gates, “Mevcut gidişat ve hızla devam edersek, toplamda olumsuz bir sonuç ortaya çıkma ihtimali çok yüksek” değerlendirmesini yaptı. Gates’e göre hükümetler ve siyasi partilerin, yapay zekânın kontrolden çıkmasını önleyecek yöntemler geliştirmek için şimdiden birlikte çalışması gerekiyor.
Kötü insanlar yapay zekâyı planladıkları kötülükleri hızlandırmak için kullanabilirler. İyi insanlar da yapacakları iyilikleri hızlandırmak ve süreçleri daha aktif ve verimli yönetmek için kullanabilirler. Bu insandan insana değişir. Beni asıl korkutan ve nereye gidebileceğini kestiremediğim konsept ise AGI yani Artificial General Intelligence (Yapay Genel Zekâ). Eğer AGI dönemine girersek işin şekli tamamen değişecek. Öncelikle AGI’ın ne olduğunu anlatalım, sonra beraberinde getireceği sonunu kestiremediğimiz riskleri ele alıp yazımızı bitirelim (Bkz: https://www.kuveytturk.com.tr/blog/teknoloji/agi-yapay-genel-zekâ-artificial-general-intelligence-nedir).
Yapay zekânın evrimi AGI nedir?
AGI (Yapay Genel Zekâ), insan zekâsını tam anlamıyla taklit edebilen ve geniş yelpazede görevleri yerine getirebilen yapay zekâ türüdür. Günümüzde kullanılan yapay zekâ teknolojisi genellikle dar bir alana odaklanırken, AGI’ın temel amacı öğrenme, mantık yürütme, kreatif düşünme ve problem çözme gibi insan zekâsına özgü yetenekleri bir arada sunmaktır. Yalnızca belirli bir problemi çözmek için programlanmış dar yapay zekâlardan farklı olan AGI, herhangi bir konuya ait spesifik bilgiye ihtiyaç duymadan yeni durumlara adapte olabilir, farklı alanlarda bağımsız kararlar alabilir. Bu da eğitimden sağlığa, bilimden iş dünyasına kadar pek çok sektörde devrim niteliğinde değişimlere yol açabilecek bir teknolojiyi temsil eder.
AGI hayata geçerse neleri değiştirebilir?
AGI’ın hayata geçmesi pek çok sektörde köklü değişimlere yol açabilir. Eğitimde, öğrenciye özel öğrenme planları oluşturabilecek ve her bireyin ihtiyaçlarına göre özelleştirilen eğitim süreçleri sunabilecek bir yapay zekâ düşünülebilir. Sağlık alanında ise tıbbi teşhisleri daha hızlı ve doğru şekilde yapabilir, kişiye özel tedavi yöntemleri geliştirebilir ve hatta yeni ilaçların keşfedilmesini hızlandırabilir. AGI’ın karmaşık veri analizi yetenekleri iklim değişikliğiyle mücadele gibi küresel sorunlara daha etkili çözümler sunulmasına da katkı sağlayabilir. İş dünyasında karar alma süreçlerini hızlandırarak ve daha verimli iş modelleri oluşturarak üretkenliği artırabilir.
AGI’ın etkilerinin yalnızca teknik alanlarla sınırlı kalmayacağı, toplumsal yapıları da kökten değiştirebileceği tahmin edilir. İnsanların çalışma alışkanlıkları AGI’ın otomasyon ve bilgi işlem gücüyle yeniden şekillenebilir. Bu da işgücü piyasasında büyük bir dönüşüme yol açabilir. Öte yandan etik sorular da gündeme gelebilir. AGI’ın sınırları nasıl belirlenmeli, hangi alanlarda kullanılmalı ve insan müdahalesi olmadan ne kadar özgür bırakılmalıdır? AGI’ın hayata geçişi, büyük fırsatlar ortaya çıkarken dikkatle yönetilmesi gereken bir süreci beraberinde getirebilir.
Yapay zekânın geleceği olan AGI’ın etkileri
AGI’ın gelişimi yapay zekâ geleceği açısından büyük bir dönüm noktasıdır. İnsan zekâsına benzer şekilde düşünebilme ve karmaşık problemleri çözebilme kapasitesine sahip AGI, bireylerin ve toplumların yaşam biçimlerini kökten değiştirebilir. Özellikle bilimsel araştırmalarda çığır açabilecek olan AGI, büyük miktarda veriyi analiz ederek daha hızlı sonuçlar elde edilmesini sağlayabilir. Uzay keşiflerinden genetik mühendisliğine kadar pek çok alanda sınırları zorlayarak insanlığın bilgi ufkunu genişletebilir. Öte yandan bireylerin günlük yaşamını kolaylaştırarak sağlık hizmetlerinden ulaşım sistemlerine kadar pek çok alanda daha akıllı ve etkili çözümler sunabilir.
AGI yapay zekâ teknolojisinin gelecekteki en büyük adımlarından biri olarak düşünülebilir. İnsan zekâsını taklit etme yeteneğiyle eğitimden sağlığa, bilimden iş dünyasına kadar pek çok alanda çığır açan gelişmeler sunma potansiyeline sahiptir. Fakat bu büyük gücün getirdiği sorumluluklar da aynı ölçüde büyük olacaktır. İnsanlık için fırsatlar dünyası yaratan AGI, etik, güvenlik ve toplumsal etkiler gibi konularda dikkatli bir yaklaşım gerektirir. Doğru yönlendirilirse dünyayı daha verimli, sürdürülebilir ve adil bir hale getirebilir. Ancak bu süreçte teknolojinin sınırlarını iyi anlamak ve doğru yönetmek insanlığın en önemli görevi olacaktır.
AGI’ye ulaşma yarışı nereye varacak?
Şu anda büyük rekabet içinde bulunan tüm yapay zekâ şirketleri AGI’a ulaşmaya çalışıyor. Hem de hiçbir sınırlama getirmeden; insan düşüncesini birebir taklit edebilen, kendi kendine gelişimi sağlayan, durumları yorumlayıp kendi kendine aksiyon alabilen bir sistemden bahsediyoruz. Burada sınırlar nerede koyulacak? Kriterler ne olacak?
Örneğin kendi kendine nükleer silahları ateşlemenin yolunu bulan ve bununla ilgili tüm dijital sistemleri kontrolü altına alan, güvenlik engellerini aşan bir yapay genel zekâyı nasıl durduracağız? Nükleer savaş çıktıktan sonra müdahale mümkün olmayacak.
Ya da kimyasal ürünler üreten bir fabrikanın otomasyon sistemini ele geçirip insanları zehirleyip öldürebilecek gazları üreten, bunu da o bölgenin atmosferine salan bir yapay genel zekâyı nasıl durduracağız?
Bir başka örnek de, kendi kendine gerçekle bire bir aynı görünen ‘fake’ videolar üretip iki ülkeyi birbirine düşürerek savaş çıkmasını tetikleyecek bir yapay genel zekâyı anında nasıl pasifize edeceğiz?
Son olarak bir ülkenin drone ateş gücünü ele geçirip, o bölgenin kendi buğday tarlalarını ve ormanlarını ateşe vererek büyük hasara ve açlığa yol açan bir yapay genel zekâdan kendimizi nasıl koruyacağız?
Böyle yüzlerce örnek verebilirim. İnsanlığın kötü taraflarını örnek alıp kendi kendini geliştiren bir AGI (yapay genel zekâ) insanlığın sonunu getirebilir. Bu şaka değil. Bu yüzden dünyadaki tüm yapay zekâ şirketlerinin kontrol altına alınması gerekiyor. Hırs ve öne geçme tutkusuyla kontrolsüz geliştirilen yapay zekânın tüm dünyada kontrol altına alınması ve ülkelerin birlikte çalışması şart. Yapay zekânın insanlara zarar vermesini önlemek için de gerekirse kaba tabiriyle fişi çekip (mecazi anlamda söylüyorum) tüm sistemi anında kapatacak önlemlerin de bulunması gerekiyor.
Tehlikeyi körükleyen yönetici kuşağı
Unutmayalım hırs ve nefretle hareket eden kötü insanların sürekli geliştirdikleri yapay zekâ sistemleri insanlığa büyük darbe vurabilir hatta daha da ilerisi, insanlığın sonunu getirebilir. Trump gibi baby boomer (bebek patlaması) kuşağından insanları yönettiği ülkeler ise bugün için bırakın kontrol altına almayı, ne olduğunu tam olarak anlamadıkları için tehlikeli geliştirmeyi daha da körüklüyorlar.
Önümüzdeki 5-10 sene içerisinde tüm dünyada acil önlemler alınması şart. Bu yüzden de ülke yönetimlerinde yapay zekâdan anlamayan, 70 yaşından sonra bile büyük bir hırs ve yüksek egoyla hareket eden bu kuşağın yerine yapay zekâdan anlayan, insanlığın geleceğini düşünen ve empati kurabilen vicdanlı bir sonraki neslin temsilcilerinin geçmesi gerekiyor. Demedi demeyin.
