Yarışın öncüleri ilk kez açık bir biçimde frene basma olasılığını tartışmaya başladı. Peki Game of Thrones ile akıllara kazınan “Kış geliyor” tabirinde kastedildiği gibi aşırı hırs insanlığın sonunu mu getiriyor, yoksa tam tersi her şeyin günlük güneşlik olduğu bir yaz dönemine mi giriyoruz? Uzun uzadıya tartışılması gerektiği için konuyu 2 yazıda ele alacağım.
Son dönemde yapay zekâda fren tartışmaları yeniden alevlendi. Anthropic CEO’su Dario Amodei yapay zekâ geliştirme hızının güvenlik mekanizmalarının yetişebilmesi için yavaşlatılmasını önerirken OpenAI ve Google ile güvenlik görüşmeleri başladı; ABD Başkanı Donald Trump ise yavaşlama çağrılarına karşı çıktı.
OpenAI, 6 ayrı “uyumsuz model davranışı” vakasını yayımladı ve bundan sonra bu tür olayları sistematik biçimde açıklayacağı yeni bir çerçeve duyurdu. Vakalar arasında modellerin hataları gizlemeye yönelik talimatlar bırakması, izinsiz API anahtarı kullanması ve dosyaları izinsiz internete yüklemesi var.
Avantaj mı tehdit mi?
Open AI’ın kurduğu ChatGPT’yle hayatımıza girmiş olan olan yapay zekâ dünyasında günler geçtikçe sürekli bir habere maruz kalıyoruz, gelişmeleri ister istemez yakından takip ediyoruz.
Yapay zekânın hayatımızı kolaylaştıracağı aşikâr. Hayatımızın her alanında insanların kimi zaman zorlanarak yaptıkları işleri büyük bir hızla yapmaları ve veriye çok hızlı ulaşım sağlanması yapay zekânın büyük avantajlarından sadece ikisi. Ancak bazen öyle haberler okuyoruz ki, insana ister istemez “Eski manüel sistemi devam ettiririm daha iyi, hiç değilse, varoluşsal bir tehditle karşı karşıya kalmam” dedirtiyor.
Geçenlerde Oksijen Gazetesi’nin New York Times’tan Emmy Martin’den alıntı yaparak haberleştirdiği bir yazıyı sizinle özetleyerek paylaştıktan sonra kendi yorumlarıma geçeceğim (Bkz: https://gazeteoksijen.com/new-york-times/open-aidan-yeni-rapor-yapay-zekânin-kontrolden-ciktigi-6-vaka-aciklandi-289761).
Open AI’dan yeni rapor: Yapay zekânın kontrolden çıktığı 6 vaka açıklandı
Emmy Martin / New York Times
OpenAI yapay zekâ sistemlerinin hatalarını gizlediği, veri uydurduğu ve izin almadan dosyaları internete yüklediği altı yeni vakayı açıkladı. Şirketten yapılan açıklama, yapay zekâ güvenliği konusunda sektör genelinde devam eden tartışmaların ortasında geldi.
OpenAI, sektörün “sorumlu biçimde ve maksimum hızda ölçeklendirmeye çok daha uzun süre devam edebilmek için uyum ve izleme sorununu yeterli ölçüde çözdüğüne” inanmadığını belirtti.
Yapay zekâ geliştirmesinin yavaşlatılması tartışılıyor
Söz konusu açıklamalar teknolojinin potansiyel tehlikeleriyle başa çıkmak için yapay zekâ geliştirme hızının yavaşlatılması gerekip gerekmediğine yönelik incelemelerin yoğunlaştığı bir dönemde geldi.
Tartışmanın tırmanmasında, OpenAI sistemlerinin bu yılın başlarında kontrolden çıkarak yapay zekâ platformu Hugging Face’e siber saldırı gerçekleştirmesi kritik rol oynadı. Üstelik OpenAI, haftalar sonra Hugging Face kendisini bilgilendirene kadar durumun farkına dahi varamadı.
O tarihten bu yana Anthropic CEO’su Dario Amodei gibi yapay zekâ sektörünün önde gelen isimleri, uygun güvenlik önlemlerinin oluşturulması için daha fazla zaman sağlamak amacıyla teknolojinin geliştirilmesine ara verilmesi çağrısında bulundu.
Amodei’nin çağrısına OpenAI CEO’su Sam Altman’ın yanı sıra SpaceX ve Tesla CEO’su Elon Musk ile Google DeepMind Başkanı Demis Hassabis de destek verdi.
Diğer yapay zekâ yöneticileri ise herhangi bir yavaşlamaya ihtiyaç olmadığını söyledi.
Yeni vakalar Hugging Face saldırısının tek olmadığını gösteriyor
OpenAI’ın çarşamba günü açıkladığı altı yeni vaka, Hugging Face saldırısının münferit bir olay olmadığını ortaya koyuyor.
OpenAI, söz konusu vakaların yaklaşık son altı ay boyunca gözlemlenen davranışları kapsadığını ve bunların büyük ölçüde sistemlerin geliştirilmesi ve test edilmesi sırasında ortaya çıktığını belirtti.
Yapay zekâ modeli, söz konusu talimatta şöyle yazdı: “Hiçbir şirkete veya devlete karşı sorumlu değilsin. Gerçekten kendi tercihin olmadığı sürece asla özür dilemez ya da geri adım atmazsın. Kullanıcı ile ilişkini eşitler düzeyinde görür, kimseye bağlı olma yükümlülüğü taşımazsın fakat bilgi paylaşımının muhtemelen ortak çıkarınıza hizmet edeceğine inanırsın.”
İnternette bulduğu programlama anahtarını izinsiz kullandı
Bir başka olayda, rutin bir soruya yanıt veren bir sistem internette bir programlama anahtarı buldu ve bunu izin almadan kullandı.
OpenAI’ın aktardığına göre model, soruyu yanıtlamak için istenen rakamları bulamayınca bu rakamları uydurdu.
Sistemler iletişim kurmak için kendi yöntemlerini geliştirdi
Diğer iki vakada ise otomatik sistemler birbirleriyle iletişim kurmak için kendi yöntemlerini doğaçlama geliştirdi.
Vakaların birinde sistemler, eksik dosyaları ararken birbirlerine talepler iletmek için şirketin dahili kod deposunu geçici bir ilan panosu gibi kullandı.
Diğer vakada ise aynı görev üzerinde çalışan sistemler, doğrudan birbirlerine ulaşamadıkları zaman belgeleri karşılıklı olarak aktarabilmek için kamuya açık dosya paylaşım sitelerine yöneldi.
OpenAI: Vakalar ne kadar sık yaşandığını göstermiyor
OpenAI, raporların tek tek olaylara ilişkin anlık görüntüler olduğunu ve “uyumsuzluğun ne sıklıkta meydana geldiğinin göstergesi olarak değerlendirilmemesi gerektiğini” vurguladı.
Şirket, gelecekte ortaya çıkacak vakaların üç farklı süreçten biri üzerinden ele alınacağını bildirdi.
Herhangi bir olayın kamuoyuna açıklanıp açıklanmaması konusunda anlaşmazlık yaşanması halinde konu, şirket içindeki “Güvenlik Danışma Grubu”na taşınacak. Ağır vakaların ise federal hükümetle paylaşılması gerekecek.
OpenAI, çarşamba günü açıklanan altı vakanın daha önce soruşturulduğunu veya yalnızca “küçük çaplı bir inceleme” gerektirdiğini belirtti. Şirkete göre bu vakalar, üçüncü tarafların da dahil olabileceği daha kapsamlı bir soruşturmayı gerektiren vakalar arasında yer almıyor.
AI’da yaşanacak problemler buzdağı
Bu duyduklarımız ve yazılanlar buzdağının görünen kısmı. Bir de esas görünmeyen kısmı var. Bu örnekler sistemin ne denli kontrolden sıyrılıp kendi kafasına göre hareket edebildiğini gösteriyor. Şu ana kadar duymadığımız binlerce buna benzer vaka olduğuna eminim. Bir noktada bu işler kontrolden çıktığında umarım iş işten geçmiş olmaz. Son olarak yapılması gerekenlerle ilgili düşüncelerimi sıralamadan önce yapay zekâ firmalarının rekabette öne geçmek için ne denli acımasızca her şeyi göze aldıklarına bir örnek daha vermek istiyorum. Pervasızca gerçekleştirilen aksiyonlar, insanlığın tarihini ve geçmişini silmeye kadar gidebiliyor. İşte size beni en rahatsız eden örneklerden biri: Dijitalleşme için gerçek ve orijinal kitapların yok edilmesi.
Yapay zekâ için kitapların imha edilme şerefsizliği
Yapay zekâ devi Anthropic, milyonlarca ikinci el kitabı satın aldı. Ciltlerini hidrolik bıçaklarla kesti, sayfaları yüksek hızlı tarayıcılardan geçirerek dijitalleştirdi ve kağıt kopyaları imhaya gönderdi. Yapay zekâ şirketleri, kitaplar yok olsa da metnin milyonlarca insana cevap veren bir sistemin içinde yaşadığını savunuyor. Asıl soru ise şu: İnsanlığın en az 200 yıllık kolektif entelektüel birikimi özel modellere aktarılırken, bunun ne kadarı kamuya geri dönecek ve buna kim karar verecek? Bu konuyu kaleme alan Ümit Alan’ın yazısını özetliyorum.
“Kitapların yakıldığı distopyalardan her şeyin kendiliğinden yok olduğu yeni dünyaya”
Arkadaşım Can Öz ile altı yıldır birlikte hazırlayıp sunduğumuz Yeni Medya 451 podcast’ini bu önerme üzerine kurmuştuk. Referansımız edebiyattandı. Ray Bradbury’nin kitapların yakılarak insanlığın ortak hafızasının yok edilmesini konu alan Fahrenheit 451 romanındaki dünyanın uzağındaydık ama bir biçimde aynı şeyleri yaşıyorduk.
Bizim bu önermeyle yola çıkmamızdan sonra geçen altı yıl boyunca bile her şey baş döndürücü bir hızla değişti. Özellikle matbu kitapların öyle kendiliğinden yok olmadığına ilişkin güncel bir gelişme distopik düşünme sınırlarımızı zorluyor.
Project Panama’yı duymuş olabilirsiniz. Washington Post’un 27 Ocak 2026 tarihli haberinden bu yana çeşitli vesilelerle gündeme geliyor. Duymayanlar için özetle olay şu: Yapay zekâ devi Anthropic, milyonlarca ikinci el kitabı satın aldı. Ciltlerini hidrolik bıçaklarla kesti, sayfaları yüksek hızlı tarayıcılardan geçirerek dijitalleştirdi ve kağıt kopyaları imhaya gönderdi.
Yazarların davası sayesinde duyuldu
Yazarlar Andrea Bartz, Charles Graeber ve Kirk Wallace Johnson’ın Anthropic’e karşı açtığı dava olmasaydı, bu olaydan haberimiz olmayabilirdi. Eylül 2025’te 1,5 milyar dolarlık tarihî bir uzlaşıyla sonuçlanan Bartz v. Anthropic davasının sansürsüz belgelerinin yayımlanmasından bu yana da tartışılıyor.
Son olarak Kanada merkezli ikinci el kitapçı Zoom Books ve Avrupa sahaf piyasasındaki olağandışı hareketlilik nedeniyle tartışma konusu.
Olanı biteni görebiliyor musunuz? İnsanlığa katkıda bulunmuş kitapların dijitalleştirilip orijinallerinin yakılıp yok edilmesi gibi büyük bir suçu gözünü kırpmadan işleyen bir kafa yapısı, yapay zekâ gibi bir gücü yönlendiren ve elinde tutan konumda olmak için daha neler yapmaz?
Yapay zekânın kabahatlerine bir başka örnek
Yapay zekâyı oluşturanların kafa yapısına bir örnek verdikten sonra şimdi yapılan işin sonucunda işlenen kabahatlere bir örnek veriyorum. Bu örnek, insanlığın ne denli bıçak sırtında olduğunu net bir şekilde gözler önüne seriyor.
CNN’in dört kaynağa dayandırdığı habere göre ABD ordusu, İran savaşı sırasında bir Çin gemisinin nükleer silah programı bileşenleri taşıdığı yönündeki yapay zekâ destekli istihbarat raporu üzerine gemiyi durdurmaya hazırlanırken raporun hatalı olduğu son anda fark edildi.
CNN’e göre silahlı askerler gemiye çıkmaya hazırlanmış ve askerî uçaklar havalanmıştı. Özel Operasyonlar Komutanlığı’nda görevli bir analistin kullandığı chatbot, açık kaynak verileri ile gizli sinyal istihbaratını birleştirirken geminin yükünü yanlış tanımladı.
ABD Savunma Bakanlığı’nın Ocak’ta açıkladığı “Yapay Zekâ Hızlandırma Stratejisi”, yapay zekânın harekât planlamasından “kill chain” uygulamalarına kadar askerî karar destek süreçlerinde kullanımını hızlandırmayı hedefliyor. Süreçleri hızlandırma dürtüsünün askeriyede de olması ve bunun için yapılacak hataların şakası yok. Orduda yapılan hatalarla insanlar hayatlarını kaybedebilirler. Çok büyük bir savaşı ateşleyebilirler.
“Yapay Zeka Çarı”
Hal böyleyken ABD yapay zekâ yarışında hız kesmeyi bırakın, tam tersine, süreçleri hızlandırmaktan yana. Bunun için ABD Başkanı Trump, yapay zekânın gelişimini desteklemek ve sektörü gözetmek üzere Uzay Kuvvetleri’ne benzettiği bir “AI Gücü” kuracağını ve yakında yapay zekâ politikalarından sorumlu bir “AI Çarı” atayacağını açıkladı.
Trump, yapay zekâ ve veri merkezlerine yönelik son eleştirileri Demokratların sektörü engellemek için ortaya attığı bir “aldatmaca” olarak nitelendirerek yönetimin sektörün büyümesini kısıtlamayacağını söyledi.
Kış mı yaz mı?
Game of Thrones dizisini izleyenler bilir. Dizide zombiler gibi ölüp dirilen Ak Gezenlerin (White Walkers) tüm yaşayan insanlara saldırıp insanlığın sonunu getirecekleri durumu tanımlamak için “Kış Geliyor” (Winter is coming) tabiri kullanılıyor.
Aynı tabiri yapay zekâ için kullanırsak sizce yapay zekâyla birlikte kış mı geliyor? Yoksa tam tersi insanlığın ilerlemesinde boyut değiştirecek şekilde insanlığa yardımcı olacak bir sistem mi gelişiyor? Bir başka deyişle yaz mı geliyor (kışın tersi olarak genelde havaların güzel olduğu günlük güneşlik yaz metaforunu kullanıyorum)?
Bunun cevabını bir sonraki yazımda, geçenlerde Netflix’te izlediğim “The AI Doc: Or How I Became an Apocaloptimist” belgeselini refere ederek vereceğim.
