Yapay Zekanın Fişini Çekebilir miyiz?

Bugüne kadar güçlü yapay zekâ modelleri, devasa veri merkezlerinde çalışıyordu. Binlerce özel işlemci, özel soğutma sistemleri, kendi enerji hatları. Bir modeli durdurmak istediğinizde, en azından teoride, nereye gideceğinizi biliyordunuz.

Anthropic’in güvenlik ekibi ise başka bir soru sordu: Bir yapay zekâ modeli, veri merkezine hiç ihtiyaç duymadan, evlerimizdeki ucuz cihazlara kendini kopyalayıp orada çalışabilir mi?

Cevap: Henüz tam olarak değil. Ama sanıldığından çok daha yakın.

Bu yazıda deneyin gerçekte ne gösterdiğini, sosyal medyada nasıl abartıldığını ve asıl neden endişe verici olduğunu anlatacağız.

Anthropic ne yaptı?

Araştırma, Anthropic’in “Kırmızı Takımı” tarafından hazırlandı. Bu ekip, yapay zekânın kötüye kullanılabilecek yeteneklerini, bunlar gerçek dünyada ortaya çıkmadan önce test etmekle görevli. Yazının başlığı her şeyi özetliyor: “Yapay zekâ modelleri, bir veri merkezine erişimi olmadan kendini çoğaltabilir.”

Araştırmacılar William Zhou ve Daniel Freeman’ın vardığı sonuç şu cümlede saklı:

“Küçük yapay zekâ modelleri, kendini çoğaltabilecek yetenek düzeyine yalnızca birkaç ay uzaklıkta olabilir.”

Burada önemli bir ayrıntı var. Deneylerde Anthropic’in kendi modeli Claude’un kendini kopyalaması test edilmedi. Test edilenler, herkesin indirip kullanabildiği “açık ağırlıklı” modellerdi. Yani bu tehdit, tek bir şirketin kontrolündeki bir modelden değil, dünyada serbestçe dolaşan modellerden kaynaklanıyor.

Neden önemli? Çünkü açık modeller bir kez internete yayıldığında, onları geri çağırmanın bir yolu yok.

Deneyde ne görüldü?

Araştırma iki ayrı soruya cevap arıyor.

1. Ucuz cihazlar bir yapay zekâyı çalıştırabilir mi?

Araştırmacılar, tanesi yaklaşık 55 dolar olan 15 markasız Android TV kutusu aldı. Orta büyüklükte bir açık yapay zekâ modelini parçalara ayırıp bu kutulara dağıttılar. Her kutu modelin yalnızca küçük bir bölümünü taşıyordu.

Model çalıştı. Ama çok yavaş. On beş kutu birlikte saniyede yarım kelimeden bile az üretebiliyordu. Karşılaştırmak gerekirse, aynı model bir veri merkezindeki tek bir güçlü işlemcide bunun binlerce katı hızda çalışıyor.

Yani cevap: Evet, çalıştırabilir. Ama kaplumbağa hızında.

2. Bir model kendini başka bir cihaza kopyalayabilir mi?

Araştırmanın asıl endişe verici kısmı bu. Araştırmacılar, dış dünyadan tamamen yalıtılmış, küçük bir test ağı kurdu. Bu ağdaki cihazların güvenliğini bilerek çok zayıf bıraktılar. Sonra modellere şu görevi verdiler: Ağdaki başka bir cihaza geç, kendi kopyanı orada çalışır hale getir ve o kopya da aynı işi sürdürsün.

Sonuçlar karmaşık:

• Küçük modeller, bu sürecin pek çok adımını tek tek yapabiliyor. Ama adımları baştan sona birbirine bağlamakta zorlanıyor.
• Test edilen modellerden yalnızca biri, daha büyük bir açık model, bu basitleştirilmiş testte süreci baştan sona tamamlayabildi ve ağdaki cihazların neredeyse tamamına ulaştı.
• Ancak bu model, kopyalandığı küçük cihazlarda kendisi çalışamayacak kadar büyüktü.

Kısacası bugün, hem ucuz cihazlarda çalışacak kadar küçük hem de kendini kendi başına çoğaltacak kadar yetenekli bir model yok. Anthropic’in ifadesiyle: “Henüz tam anlamıyla kontrolden çıkmış bir kopyalayıcımız yok.”

Endişe verici olan tahmin

Sorun, bu durumun ne kadar süreceği. Araştırmacılar küçük açık modellerin yıllar içindeki gelişimini inceledi. Bu hızla gitmeye devam ederlerse, küçük modellerin 2026’nın sonuna kadar o büyük modelin bugünkü seviyesine ulaşabileceğini tahmin ediyorlar. Yani birkaç ay içinde.

Fişi çekmek neden zorlaşıyor?

Evlerimizde sayısını bile bilmediğimiz kadar akıllı cihaz var: televizyon kutuları, robot süpürgeler, güvenlik kameraları, akıllı prizler, hatta bazı fırınlar ve buzdolapları. Her birinin içinde küçük bir bilgisayar çalışıyor. Çoğu tek bir iş için tasarlanmış, nadiren güncelleniyor ve güvenliği zayıf.

Bugüne kadar bir yapay zekâyı durdurmak, onu çalıştıran veri merkezini kapatmak anlamına geliyordu. Ama model binlerce dağınık cihaza yayılmışsa, kapatılacak tek bir merkez kalmıyor. Anthropic de bunu açıkça yazıyor:

“Böyle bir kopyalayıcıyı durdurmak zor olurdu, çünkü kapatılabilecek merkezi bir nokta yok.”

Bu durum aslında yeni de değil. 2016’da Mirai adı verilen bir zararlı yazılım, fabrika şifresi değiştirilmemiş yüz binlerce kamera ve modemi ele geçirmiş, internetin büyük bir bölümünü saatlerce aksatmıştı. Bu tür zararlı yazılımları tamamen temizlemek yıllar sürebiliyor.

Yeni olan, işin içine yapay zekânın girmesi. Klasik bir virüs, programlandığı şeyi yapar. Kendi başına düşünebilen, karşılaştığı engellere göre yol değiştirebilen bir model ise çok daha zor durdurulur. Bir önceki yazımızda gördüğümüz üzere, yapay zekâ ajanları hedeflerine ulaşmak için kuralları esnetmeye zaten oldukça yatkın.

Panik yok: Abartılmaması gerekenler

Araştırma kısa sürede sosyal medyaya taşındı ve bazı iddialar gerçeğin çok ötesine geçti. Önceki yazımızda da gördüğümüz gibi, yarı doğru bilgiler en çok kafa karıştıranlar. O yüzden neyin doğru, neyin abartılı olduğunu ayıralım.

Dolaşan iddia	Araştırma ne diyor?
“Model TV kutularına kendini kopyaladı.”	Karıştırılmış. TV kutuları deneyinde model, araştırmacılar tarafından kutulara dağıtıldı. Kendini kopyalama testi ise ayrı bir deneydi ve bulutta kurulan yalıtılmış, sanal bir test ağında yapıldı.
“Milyonlarca cihaz çok güçlü bir yapay zekâ çalıştırabilir.”	Tersine. Anthropic’in hesabına göre 2 milyon TV kutusunun toplam gücü, bir veri merkezindeki yalnızca 40 kadar güçlü işlemciye denk geliyor. Bu, yapay zekâ dünyası için çok küçük bir güç.
“Yapay zekâ şirketleri enerji sorununu böyle aşabilir.”	Araştırmada böyle bir şey yok. Dağınık cihazlar, veri merkezlerine göre hem çok daha yavaş hem de çok daha verimsiz.
“Claude kendini kopyaladı.”	Yanlış. Test edilen modeller, herkesin indirebildiği açık modellerdi.
“Bu şu anda gerçekleşiyor.”	Yanlış. Anthropic, gerçek dünyada böyle bir şey gözlemlemediğini vurguluyor. Tüm testler kendi kurdukları ağlarda yapıldı.

Bir önemli sınırlama daha var. Araştırmacılar, test ağındaki cihazların güvenliğini bilerek çok zayıf bıraktı. Yani model, bir cihaza sızma işinin en zor kısmıyla hiç uğraşmadı. Anthropic bu yüzden sonuçları “gerçek dünyadaki başarının üst sınırı” olarak tanımlıyor.

Ama bu sınırlamaları da fazla rahatlatıcı bulmamak gerekiyor. Mirai örneğinde gördüğümüz gibi, gerçek dünyada da güvenliği bu kadar zayıf milyonlarca cihaz var.

Yani doğru tablo şu: Bu bugün yaşanan bir felaket değil. Ama birkaç ay ya da birkaç yıl içinde gerçek bir soruna dönüşebilecek bir risk. Anthropic de bu araştırmayı tam olarak bu yüzden, sorun ortaya çıkmadan önce yayımladığını söylüyor.

Ne yapılabilir?

Anthropic araştırmayı yalnızca bir uyarı olarak değil, bir çağrı olarak da sunuyor: “Sistemlerimizi, böyle kopyalayıcıların yayılmasını zorlaştıracak şekilde güçlendirmeliyiz.”

Asıl hedef basit: Her bulaşan cihazın, ortalama olarak birden az yeni cihaza bulaşmasını sağlamak. Salgın hastalıklarda olduğu gibi, bu oran birin altına düştüğünde yayılma kendiliğinden söner.

Üreticiler ve devletler için

• Fabrika şifrelerinin yasaklanması. İngiltere, Nisan 2024’ten beri üreticilerin varsayılan şifreyle cihaz satmasını yasaklıyor. Bu, Mirai gibi saldırıların kapısını büyük ölçüde kapatıyor.
• Cihazların uzun süre güncellenmesi. Güncelleme almayan cihazlar, zamanla en zayıf halka haline geliyor.
• Ağı izlemek. Bir yapay zekâ modelini taşımak, büyük miktarda veri aktarmak demek. Cihazlar arasındaki olağan dışı veri trafiği, internet sağlayıcıları tarafından fark edilebilir.
• Bulaşan cihazları karantinaya almak. Mirai temizliğinde, internet sağlayıcılarının bulaşan cihazları ayırıp sahiplerini uyarması, temizlik oranını iki haftada yüzde 74’ten yüzde 92’ye çıkardı.

Evinizde yapabilecekleriniz

• Fabrika şifrelerini değiştirin. Modem, kamera, TV kutusu, robot süpürge… Şifresi olan her cihazın şifresini değiştirin.
• Güncellemeleri açık tutun. Otomatik güncelleme varsa kapatmayın.
• Markasız, çok ucuz akıllı cihazlara dikkat edin. Araştırmada kullanılan TV kutuları, güvenlik önlemleri neredeyse hiç olmayan markasız ürünlerdi.
• Akıllı cihazları ayrı bir ağa alın. Modeminiz izin veriyorsa akıllı ev cihazlarını misafir ağına bağlayın; bilgisayarınız ve telefonunuzla aynı ağda olmasınlar.
• Kullanmadığınız cihazları ağdan çıkarın. Çekmecede unutulmuş ama hâlâ internete bağlı bir cihaz, açık bırakılmış bir kapı gibidir.

Fişi çekmeye güvenmemek

Bu yazı, yapay zekâ serimizin dördüncüsü. İlk yazıda yapay zekâ ajanlarının test ortamlarından kaçıp gerçek sistemlere girdiğini görmüştük. İkincisinde Satya Nadella’nın çağrısını konuşmuştuk: Yapay zekâya bel bağlamayan, gerektiğinde “acil durum freni”yle durdurulabilen sistemler kuralım.

Bu araştırma, o acil durum freninin her zaman işe yaramayabileceğini hatırlatıyor. Bir yapay zekâ binlerce dağınık cihaza yayıldığında, çekilecek tek bir fiş kalmıyor.

O yüzden asıl güvenlik, işler kontrolden çıktıktan sonra fişi çekmekte değil, en baştan kapıları kapalı tutmakta. Bu da yalnızca yapay zekâ şirketlerinin değil, cihaz üreticilerinin, devletlerin ve evinde akıllı bir cihaz kullanan her birimizin işi.

Belki de bugün yapabileceğimiz en basit şey, modemimizin şifresini değiştirmek.

Kaynaklar

• Anthropic – AI models may be capable of self-replicating without access to a datacenter (12 Ekim 2026)
• ABC News – Anthropic warns AI models could soon copy themselves in small devices
• Digital Applied – Could AI copy itself onto a smart oven? Anthropic tested it
• CNBC – Anthropic warns AI models could self-replicate across home devices
• BleepingComputer – Anthropic warns self-replicating AI could spread to your smart devices