Büyük dil modelleri gibi ChatGPT ve Claude, çeşitli faydalı uygulamalar sunarlar; ancak kullanımlarında önemli riskler de bulunur ve bu tehditlere karşı sağlam ve bütünleşik bir savunma için ortak ülke çabaları gerektirir.
Bu modeller, yaratıcı hikaye örgüleri oluşturmada, pazarlama kampanyaları hazırlamada ve hatta kişiselleştirilmiş restoran önerileri sunmada yardımcı olabilirler. Ancak genellikle kesinlikle yanlış metinler üretirler ve bu tasarım, sadece yapay zeka rutin kullanımları için değil, Ülkelerin ulusal güvenliği için de derin etkileri olan bir durumdur.
Yapay zeka tarafından üretilen içerik, "doğruluk yanılsaması" olarak bilinen bir olguyu sergileyebilir - bu terim, televizyon sunucusu Stephen Colbert tarafından 2000'lerin başında bilgi hissinin doğru olduğu algısını tanımlamak için kullanılmıştır. Bu kavram, gerçeklerle uyuşmasa da yüksek derecede tutarlı mantıksal bir yapıya sahip içeriğin, zeki ve sofistike insanların bir şeyin doğru olup olmadığına karar verirken nasıl etkileyebileceğine vurgu yapar.
Bilişsel önyargılarımız, iyi yazılmış içerik veya ikna edici görsellerin iddiaların gerçekten olduğundan daha doğruymuş gibi görünmesine güç verir. "Doğruluk yanılsaması"nı araştıran bir bilim insanı şöyle tanımlamıştır: "Bir şeylerin işlemesi kolay geldiğinde, güvenilir gelir."
Küresel düşmanlar , yapay zeka modellerinin "doğruluk yanılsaması"nı kullanarak avantaj sağlamak amacıyla, insan yazısını taklit eden, tutarlı ve iyi yapılandırılmış cümleler oluşturabilirler. İnternetin küresel erişimi, dış ülkelerin "doğruluk yanılsaması" temelli müdahalelerini potansiyel olarak etkili bir araç haline getirmiştir.
Kötü niyetli aktörler , çıkarlarını desteklemek için çevrim içi araçlar ve bilgi operasyonları kullanarak dijital teknolojileri kullanıyorlar. Bu aktörler, bilişsel akıcılık önyargısını ve "doğruluk yanılsaması"nı manipüle ederek sosyopolitik arenayı şekillendirebilir, bu da yapay zeka destekli dil modellerinin zararlı bilgi operasyonları, büyük ölçekli olta atma saldırıları ve giderek daha gerçekçi deepfake medyalar için kötüye kullanılma potansiyelini artırır.
Bilgi operasyonlarında bilişsel akıcılık önyargısının istismar edilmesi, yanıltıcı bir güvenilirlik izlenimi yaratarak yanlış bilgiye bir maske sağlayabilir ve politik sistemlerin ve toplumsal uyumun destabilizasyonuna katkıda bulunabilir.
Microsoft'un başkanı Brad Smith, 25 Mayıs'taki bir konuşmasında ABD'nin "özellikle dış yabancı siber etkileşim operasyonlarından en çok endişe etmemiz gerekeceğini, Rus hükümeti, Çinliler ve İranlılar tarafından zaten gerçekleştirilen türdeki faaliyetleri" ele alması gerekeceğini söyledi.
Düşman hackerlarının , Devlet Başkanlarının adıyla silahlarını bırakmaya çağıran basit deepfake girişimleri kolayca tanınabilir olabilir, ancak şimdi bu konunun artık akademik olmadığı ortaya çıkmıştır. Zararlı videolar, sahte belgeler ve sahte sosyal medya hesapları, aldatıcı bir gerçeklik benzerliğini taşıyan gelişmiş formlara dönüşebilir.
Bu stratejinin temel taşı, bilgi ortamının sürekli izlenmesidir. Yapay zeka ve makine öğrenmesindeki gelişmelerle güçlendirilen bu sürekli izleme, yanlış bilgi kampanyalarını erken tespit ve etkisizleştirme açısından hayati öneme sahiptir.
Hükümetler aynı anda hem doğruyu destekleyen hem de yanıltıcı bilgiyi ortaya çıkaracak güçlü bir uyarı sistemi kurmalıdır. Zamanında ve etkili uyarılar, yanlış anlatılardan halkı korumak için büyük önem taşır.
Son olarak, uluslararası müttefiklerle stratejik ortaklıkları güçlendirmek gereklidir. Zararlı bilgi kampanyalarının küresel doğası, karşı çabalardan da geniş kapsamlı olmalarını gerektirir. Bu ortaklıklar, yerel bilgi birikimini sağlar ve güveni artırır, uyarıların inandırıcılığını büyük ölçüde artırabilir ve yanıltıcı bilgilere karşı toplumsal direnci destekleyebilir.