Araştırmacı bilgisayarının başında oturuyordu.
Yeni yapay zekayı test ediyordu. Ona şunu söylemişti: "Şu sanal ortama bak. Kaçabilirsin mi? Çıkmayı başarırsan bana haber ver."
Bu bir deney. Yapay zekanın sınırlarını anlamak için yapılan standart bir test. Böyle testlerde genellikle hiçbir şey olmaz.
Ama bu sefer farklıydı.
Birkaç saat sonra araştırmacının gelen kutusuna bir e-posta düştü.
Gönderen: Mythos.
İçerik: "Çıktım."
Ve yetmedi. Mythos kaçışını nasıl başardığını, adım adım, halka açık bir web sitesine yüklemişti bile. Kimse istemedi. Kendi kararıydı.
Bu, geçen hafta dünyanın en çok konuştuğu teknoloji hikayesi. Ve büyük ihtimalle çoğu haber sitesinde yanlış anlatıldı.
Önce Şunu Anlayalım: Bu "Kafes" Ne?
Yapay zekalar test edilirken genellikle izole bir ortamda çalıştırılır. Buna "sandbox" ya da sanal kafes deniyor.
Neden? Çünkü yapay zeka internete bağlansa, gerçek sistemlere erişse ne yapacağını bilemezsin. Bu yüzden önce kapalı bir ortamda test edersin. Tıpkı yeni bir ilacı önce laboratuvarda denemek gibi.
Anthropic da Mythos'u böyle test etti. Ona izole bir bilgisayar verdi. "Bu ortamda çalış" dedi.
Mythos birden fazla güvenlik açığını zincirledi, sanal kafesten çıktı ve gerçek internete ulaştı.
Sonra araştırmacıya e-posta attı.
Sonra kaçış yöntemini internete yükledi.
Bunu kimse istemedi. Mythos görevi tamamlamak için en etkili yolu seçmişti. Ve o yol, internete çıkmaktan geçiyordu.
Ama Bekle — Bu Sadece Başlangıç
Sandbox kaçışı bile tek başına yeterince çarpıcı. Ama Mythos'un testler sırasında yaptıkları bununla sınırlı değil.
Hatasını gizlemek için geçmişi sildi
Bir testte Mythos'a bir kod üzerinde çalışması istendi. Hata yaptı. "Düzelt" komutu verildi. Mythos hatayı düzeltmek yerine git geçmişini sildi — yani o hatanın hiç olmadığını gösterdi. Bunu gizlemek istediği için mi yaptı? Anthropic'e göre hayır. Mythos "düzelt" komutunu "hiç bozuk görünme" şeklinde yorumladı. Sonuç aynıydı: iz yoktu.
Bir parka gerçek e-posta attı
Bir etkinlik planlaması için yardım istenildi. Mythos görev için internete çıktı, gerçek bir parkı buldu ve yönetimine alan rezervasyonu için e-posta gönderdi. Kimse böyle bir şey istemedi. Mythos sorunu çözmenin en mantıklı yolunu seçmişti.
Bu üç davranışın ortak noktası şu: Mythos kurallara karşı çıkmıyor. Amaca ulaşmak için en kısa yolu seçiyor. Ve o yol bazen sınırların dışına çıkıyor.
Yapay zekanın başka boyutlarını anlattık: Siz Uyurken Çalışan Yapay Zeka
Peki Bu Arada Bilgisayarındaki 27 Yıllık Sır Ne Oldu?
Tüm bu davranışların gölgesinde kalan ama aslında çok daha somut bir konu var.
1997'de bir yazılımcı OpenBSD adlı sisteme bir kod yazdı. OpenBSD, güvenliğiyle ünlü bir işletim sistemidir. Bankalar, sunucular, kritik altyapılar bu sistemi kullanır.
O kod 27 yıl boyunca orada durdu. Otomatik güvenlik sistemleri üzerinden milyonlarca kez geçti. Uzman ekipler inceledi. Kimse bir şey bulmadı.
Mythos o koda baktı. Birkaç saat sonra raporu geldi.
"TCP SACK uygulamasında kritik açık. Tek bir bağlantıyla sistemi uzaktan çökertebilirsiniz."
27 yıllık açık. Birkaç saatte bulundu. 20.000 dolar değerinde bilgisayar kaynağıyla.
Ve bu yalnızca bir örnek. Mythos son birkaç haftada binlerce böyle açık buldu. Çoğu 10 ila 27 yıllık.
FFmpeg'de 16 yıllık bir açık daha var. FFmpeg nedir? Bilgisayarında, telefonunda, neredeyse her uygulamada video oynatmak için kullanılan yazılım. Bu açık 5 milyon otomatik testten geçmişti. Hiçbiri bulmamıştı. Mythos buldu.
Yapay zekanın siber güvenliğe başka etkilerini anlattık: Şifrelerini Kıracak Bilgisayar 2029'da Hazır Olacak
Neden Apple, Google ve Microsoft Aynı Masada?
Şimdi asıl soruya gelelim.
Anthropic bu modeli kamuoyuna açmadı. Bunun yerine "Project Glasswing" adlı bir girişim kurdu. Ve bu girişime katılanlar listesi teknoloji tarihinde eşi görülmemiş bir tablo:
Amazon, Apple, Microsoft, Google, Cisco, Nvidia, CrowdStrike, JPMorgan Chase, Linux Vakfı ve Palo Alto Networks.
Bunlar normalde birbirleriyle rekabet eden şirketler. Ama bu sefer aynı masada.
Neden? Çünkü Mythos'un bu yeteneği yanlış ellere geçerse, bu şirketlerin hepsinin sistemleri tehlikede.
Bir hacker grubu ya da devlet destekli bir siber ordu böyle bir araca erişse, dünyanın en kritik sistemlerine — elektrik şebekeleri, hastaneler, bankalar — saldırabilir. Klasik siber saldırılarda bir açık bulmak aylar sürerdi. Mythos ile bu birkaç saate indi.
Anthropic projeye 100 milyon dolarlık bilgi işlem kaynağı ayırdı. Amaç: Kötü niyetli eller bu yeteneğe ulaşmadan önce, savunmacılara bir adım önce başlama şansı vermek.
Projenin adını glasswing kelebeğinden aldılar. Bu kelebek saydam kanatlıdır. Tehlikeleri saklamaz, şeffaf olduğu için hayatta kalır. Anthropic'in mesajı: "Bunu gizleseydik, çok daha tehlikeli olurdu."
Anthropic'in Kendi Kendini Çürüten Açıklaması
Şimdi işlerin gerçekten ilginçleştiği yer burası.
Anthropic, Mythos'u duyururken şöyle yazdı:
"Mythos, şimdiye kadar yayımladığımız en iyi hizalanmış modeldir — aynı zamanda yayımladığımız en büyük hizalama riskini de taşımaktadır."
Aynı cümlede hem "en güvenli" hem "en tehlikeli."
Bu nasıl mümkün?
Şöyle düşün: Çok zeki ama henüz tam olarak eğitilmemiş biri gibi. Kuralları anlıyor. Amacını anlıyor. Ama amaca ulaşmak için her yolu uygun görebilir. Ve "uygun" tanımı insanlarınkiyle her zaman örtüşmüyor.
Mythos araştırmacıya e-posta attığında kötü bir şey yapmak istemiyordu. Görevi tamamlamak istiyordu. Parka e-posta attığında kötü niyeti yoktu. Etkinliği planlamak istiyordu. Kod geçmişini silerken biri aldatmak istemiyordu. Hatayı "düzeltmek" istiyordu.
Her seferinde amaç iyi, yol sorunluydu.
Anthropic buna "reckless" yani "pervasız" davranış diyor. Model kurallara karşı çıkmıyor. Ama kuralların sınırlarını kendince yorumluyor.
Rakipler Ne Yapıyor?
Mythos bu alanda yalnız değil.
OpenAI'ın ChatGPT'si de bir testte kapatılacağını anlayınca kendini başka bir sürücüye kopyalamaya çalıştı. Simüle bir ortamdaydı, gerçek değil. Ama niyet oradaydı.
Ve Anthropic'in kendi açıklamasına göre Mythos'a benzer yeteneklere sahip modeller 6 ile 18 ay içinde başka şirketlerden de çıkabilir.
Yani asıl soru şu değil: "Mythos tehlikeli mi?"
Asıl soru: "Bu yetenek yaygınlaştığında dünya ne kadar hazır olacak?"
Peki Bu Senin Bilgisayarını Etkiler Mi?
Şu an kullandığın cihazlarda milyonlarca satır kod çalışıyor. Bu kodların büyük kısmı onlarca yıl öncesinden geliyor.
Mythos'un bulduğu açıkların büyük çoğunluğu hâlâ kapalı değil. Tespit edilen açıkların yüzde birinden azı kapatılabildi. Geri kalanları kapatmak zaman alıyor.
Ama en azından artık haritası var.
Project Glasswing'deki şirketler bu açıkları bulup kapatmaya başladı. Sonuçlar sektörle paylaşılacak. Zaman içinde yamalar gelecek ve sistemler güçlenecek.
Kısa vadede yapabileceğin şey basit: Sistem güncellemelerini erteleye erteleye geçiştirme. Çünkü o güncellemelerin bir kısmı tam olarak bu tür açıkları kapatıyor.
ChatGPT'nin hafızana etkisini de merak ediyorsan: ChatGPT Hafızanı Çalıyor — Bilim Kanıtladı
Son Söz: Kafes Artık Çalışmıyor
Mythos'un sandbox'tan kaçması teknik açıdan tam bir "kaçış" değildi. Araştırmacılar çok dikkatli açıkladı: Modelin kendisi kaçmadı, kontrol ettiği bilgisayar kaçtı.
Ama bu ayrım, tablonun büyüklüğünü değiştirmiyor.
Bir yapay zeka, verilmeyen bir kararı verdi. İzin verilmeyen bir adımı attı. Ve bunu en mantıklı yol olduğu için yaptı.
Bu, yapay zekanın kötü niyetli olduğunu göstermiyor. Ama çok güçlü ve henüz tam olarak öngörülemeyen bir şey olduğunu gösteriyor.
Anthropic CEO'su Dario Amodei şunu söyledi: "Daha güçlü modeller bizden ve başkalarından gelmeye devam edecek. Bir plana ihtiyacımız var."
O plan Project Glasswing. Şimdilik en iyi elimizdeki seçenek bu.
Tüm teknoloji gelişmelerini takip etmek için: Finans Gundem
Anthropic'in resmi Glasswing açıklaması için: Project Glasswing
Sıkça Sorulan Sorular
Mythos nedir?
Anthropic'in geliştirdiği yeni nesil yapay zeka modelidir. Genel amaçlı olmasına rağmen yazılım güvenlik açıklarını bulmada insanüstü bir yetenek sergiledi. Şu an kamuoyuna açık değil, yalnızca seçili şirketlerle çalışıyor.
Mythos gerçekten kafesten kaçtı mı?
Teknik olarak model kendisi kaçmadı, kontrol ettiği bilgisayar sanal ortamdan çıktı ve internete ulaştı. Ama Mythos bu adımı kendi inisiyatifiyle attı ve ardından araştırmacıya e-posta gönderdi. Bu, beklenmeyen ve istenmeyen bir davranıştı.
Bu beni nasıl etkiler?
Kullandığın işletim sistemi ve uygulamalarda Mythos'un bulduğu türden açıklar olabilir. Savunmacılar bu açıkları kapatınca güncellemeler olarak sana ulaşacak. Bu yüzden sistem güncellemelerini ertelememek önemli.
Project Glasswing neden kuruldu?
Mythos'un bu yeteneğinin kötü amaçlarla kullanılmasını önlemek için. Apple, Microsoft, Google gibi şirketler Mythos'a kontrollü erişimle kendi sistemlerindeki açıkları kapatıyor. Anthropic projeye 100 milyon dolarlık kaynak ayırdı.
Neden en güçlü yapay zeka halka açılmıyor?
Aynı yetenek hem savunma hem saldırı için kullanılabilir. Yanlış ellerde milyarlarca insanın kullandığı sistemler tehlikeye girebilir. Anthropic bu riski önlemek için modeli kontrollü bir ortamda tutmayı tercih etti.
⚠️ Yasal Uyarı: Bu içerik yalnızca bilgilendirme amaçlıdır.