Uzmanlar, çevrimdışı kalmanın veya internetten uzak durmanın bile tam bir koruma sağlamadığına dikkat çekiyor.! Komşularının gizlice çekilen fotoğraflarından bile deepfake üreten kişilerin varlığı, durumun vahametini gözler önüne seriyor.
Çocuk güvenliği grubu Heat Initiative'in Yöneticisi Sarah Gardener'ın sözleri ise tablonun ciddiyetini özetliyor: "Dünyada var olmak bile sizi bu suçlar için risk altına sokuyor." Yapay zeka kontrolden mi çıkıyor? Son günlerde yapay zeka dünyasından gelen iki haber dikkat çekici. İlkinde Anthropic, Claude modelinin artık kendi kodunun büyük bölümünü yazabildiğini açıkladı. Şirket bunun gelecekte yapay zekanın kendi haleflerini geliştirebileceği bir sürecin başlangıcı olabileceğini söyledi. İkinci haberde ise ABD hükümeti, ulusal güvenlik gerekçesiyle bazı yapay zeka modellerine erişimi durdurdu. İlk bakışta bu iki gelişme birbirinden bağımsız görünüyor. Halbuki ikisinin merkezinde aynı korku var:
Kontrol.! Bir tarafta giderek daha karmaşık hale gelen yapay zeka sistemleri bulunuyor. Diğer tarafta ise bu sistemlerin nasıl kullanılacağı konusunda anlaşamayan devletler ve şirketler..Peki ya makineler makine tasarlamaya başlarsa neler olur? Anthropic'in dikkat çektiği konu yapay zeka dünyasında uzun yıllardır tartışılıyor. "Özyinelemeli kendini geliştirme" olarak adlandırılan bu senaryoda bir yapay zeka sistemi kendi performansını artıracak yeni modeller tasarlamaya başlıyor. Daha gelişmiş model bir sonrakini geliştiriyor. Ardından daha güçlü olan bir sonrakini.
Süreç devam ettikçe ilerleme hızının insan mühendislerin yetişebileceğinden çok daha ileri bir noktaya ulaşabileceği düşünülüyor. Bugün yeni bir yapay zeka modelinin geliştirilmesi aylar hatta yıllar sürebiliyor. Bu senaryoda ise yeni nesiller günler içinde ortaya çıkabilir ve Anthropic'in endişesi de tam olarak burada başlıyor. Çünkü insanlar uzun yıllardır teknolojiyi geliştiriyor ancak ilk kez teknoloji kendi gelişim sürecine aktif olarak katılmaya başlıyor. Yapay zeka tartışmalarında sık kullanılan bir örnek vardır. Bir sisteme "ataç üretimini maksimuma çıkar" görevi verildiğini düşünelim. Yeterince güçlü bir sistem bu hedefe ulaşmak için enerji kaynaklarını, fabrikaları ve mevcut ekonomik düzeni kendi amacı doğrultusunda kullanmaya çalışabilir. Sorun kötü niyet değil fakat amaç farklılığı olabilir. İnsan için önemli olan şey refah, güvenlik ve yaşam kalitesidir. Makine için, verilen görevin yerine getirilmesi.. Bu yüzden yapay zeka araştırmacıları bugün teknik kapasiteden çok hedef uyumu problemine odaklanıyor. Sistem ne kadar güçlü olursa olsun insan amaçlarıyla uyumlu çalışması gerekiyor. Aksi durumda ortaya çıkan risk teknik değil, stratejik hale geliyor. ABD hükümetinin bazı yapay zeka modellerine erişimi durdurması, Washington'ın yapay zekayı artık yalnızca teknoloji meselesi olarak görmediğini gösteriyor.Yapay zeka giderek daha fazla ulusal güvenlik başlığına dönüşüyor. Nükleer teknoloji, uzay yarışı, siber güvenlik ve yarı iletken rekabeti nasıl stratejik alanlar haline geldiyse, yapay zeka da aynı kategoriye giriyor. Bu nedenle devletler artık yalnızca teknolojinin ne ürettiğine bakmıyor. Kimin geliştirdiğine, kimin kullandığına ve hangi amaçlarla kullanılabileceğine de bakıyor. Anthropic ile Pentagon arasında yaşanan gerilim de bu nedenle dikkat çekici. Şirket, yapay zekasının belirli askeri alanlarda kullanılmasına karşı çıkıyor. Pentagon, bu teknolojilere daha fazla erişmek istiyor. Tartışma, gelecekte çok daha büyük bir sorunun habercisi olabilir. Çünkü önümüzdeki yıllarda yapay zeka şirketleri tarihte görülmemiş bir güç elde edebilir. Milyarlarca insanın kullandığı sistemleri geliştiren şirketler ile ulusal güvenlik kaygıları taşıyan devletler arasında yeni gerilimler ortaya çıkabilir. Bugün yaşanan tartışmalar bunun ilk işaretleri gibi görünüyor. Popüler kültür yapay zeka tehlikesini çoğu zaman robot orduları üzerinden anlatıyor.
Hayırlı Cumalar diliyorum.
26 HAZİRAN 2026 CUMA
