Yapay zeka çağında siber güvenlik: 2023’te tehdit ortamında neler değişti?
Kaspersky uzmanları, yayınladıkları son raporda yapay zekanın 2023 siber güvenlik ortamı üzerindeki derin tesirini ortaya koydu. Çok taraflı bir yaklaşımla gerçekleştirilen tahlilde yapay zekanın tesirleri araştırılıyor, yapay zekanın siber güvenlik uzmanları ve regülasyon yetkilileri tarafından kullanımına odaklanılıyor ve siber hatalılar tarafından potansiyel olarak nasıl istismar edilebileceği bedellendiriliyor. Kaspersky Security Bulletin (KSB) içinde yer alan bu kapsamlı inceleme, siber güvenlik alanındaki kıymetli değişimlere ışık tutan kestirimlerin ve derinlemesine raporların yıllık derlemesine karşılık geliyor.
Teknolojik ilerlemenin ve toplumsal değişimlerin süratli temposu devam ederken, “Yapay Zeka” terimi kendisini global gündemin ön saflarında sağlam bir biçimde konumlandırdı. Büyük lisan modellerinin (LLM’ler) giderek yaygınlaşmasıyla birlikte güvenliğe ve kapalılığa dair kaygılardaki artış, yapay zekayı direkt siber güvenlik dünyasıyla ilişkilendiriyor. Kaspersky araştırmacıları, yapay zeka araçlarının 2023 yılında siber hatalılara makus niyetli faaliyetlerinde nasıl yardımcı olduğunu ortaya koyarken, birebir vakitte bu teknolojinin savunma alanındaki potansiyel uygulamalarını da gözler önüne seriyor. Kaspersky uzmanları raporda ayrıyeten gelecekte yapay zeka ile ilgili tehditlerin nasıl değişebileceğine de değiniyor.
Daha karmaşık güvenlik açıkları
Belli talimatları takip edebilen LLM’ler tüketiciye yönelik daha fazla esere entegre edildikçe, üretken yapay zeka ile klâsik teknolojilerin kesiştiği noktada yeni ve karmaşık güvenlik açıkları ortaya çıkacak. Bu da siber güvenlik uzmanlarının garanti altına alması gereken taarruz yüzeyini genişlemesine neden olacak. Bu durum, geliştiricilerin LLM aracıları tarafından başlatılan hareketler için kullanıcı onayı üzere yeni güvenlik tedbirleri üzerinde çalışmasını gerektiriyor.
Siber güvenlik uzmanları için kapsamlı yapay zeka asistanları çıkacak
Kırmızı takım üyeleri ve araştırmacılar, yenilikçi siber güvenlik araçları için üretken yapay zekadan yararlanacak ve bu da LLM yahut makine tahsili (ML) tabanlı asistanların yolunu açacak. Bu araç, pentesting ortamında yürütülen komutlara dayalı rehberlik sunarak kırmızı grupların misyonlarını otomatikleştirme potansiyeline sahip.
Yapay hudut ağları dolandırıcılığa yönelik görseller üretmek için daha fazla kullanılacak
Önümüzdeki yıl, dolandırıcılar yapay hudut ağlarını kullanarak taktiklerini güçlendirecek ve daha ikna edici düzmece içerikler oluşturmak için yapay zeka araçlarından yararlanacak. Zahmetsizce ikna edici görseller ve görüntüler üretebilen berbat niyetli aktörler, dolandırıcılık ve sahtekarlıklarla ilgili siber tehditleri tırmandırma riskini artıracak.
Yapay zeka 2024 yılında tehdit ortamında çığır açan değişimlerin itici gücü olmayacak
Yukarıda yer verilen gelişmelere karşın Kaspersky uzmanları, yapay zekanın yakın vakitte tehdit ortamını değerli ölçüde değiştireceği konusuna kuşkuyla yaklaşıyor. Siber hatalılar üretken yapay zekayı benimserken, birebir durum yazılımların ve ağların güvenliğini artırmak için gelişmiş araçları test edecek siber güvenlik uzmanları için de geçerli. Bu da hücum ortamının büyük ölçüde değişmesini muhtemel kılmıyor.
Özel dalın katkısıyla yapay zeka ile ilgili daha fazla regülasyon teşebbüsü olacak
Teknoloji geliştikçe, bu gelişime uygun düzenleme ve regülasyonlar da kelam konusu oluyor. Bu doğrultuda yapay zeka ile ilgili düzenleyici teşebbüslerin sayısı da artacak. Teknoloji şirketleri üzere kamu harici aktörler, yapay zeka geliştirme ve kullanma konusundaki uzmanlıkları göz önüne alındığında, hem global hem de ulusal platformlarda yapay zeka regülasyonlarına dair tartışmalar açısından çok kıymetli bilgiler sağlayabilir.
Yapay zeka tarafından oluşturulan içeriklerin filigranla işaretlenmesi gündeme gelecek
Sentetik içeriğin işaretlenmesi yahut tanımlanması için daha fazla düzenlemenin yanı sıra yeni hizmet sağlayıcı siyasetleri da gerekecek. Bunun sonucunda hizmet sağlayıcılar tespit teknolojilerine yatırım yapmaya devam edecek. Geliştiriciler ve araştırmacılar ise daha kolay tanımlama ve kaynak gösterme için sentetik medyayı filigranlama prosedürlerine katkıda bulunacaklar.
Kaspersky Güvenlik Uzmanı Vladislav Tushkanov, hususla ilgili olarak şunları söyledi: “Siber güvenlikte yapay zeka iki ucu keskin bir kılıca benziyor. Yapay zekanın uyarlanabilen yetenekleri, gelişen tehditlere karşı proaktif bir kalkan sunarak savunmamızı güçlendirebilir. Lakin birebir dinamizm, saldırganlar daha sofistike hücumlar düzenlemek için yapay zekadan yararlanması sonucunu da doğurabilir. Hassas bilgileri çok paylaşmadan, sorumlu kullanım sağlayarak gerçek dengeyi kurmak, dijital hudutlarımızı garanti altına almak ismine çok değerlidir.”
Kaynak: (BYZHA) Beyaz Haber Ajansı
