Uzmanından kritik altyapılarda yapay zeka tehlikesine karşı uyarı!
Yapay zeka, iş gücünü tehdit ediyor!
Yapay zeka gelişiminin etik, toplumsal ve ekonomik sonuçlarını dikkate almanın kıymetine işaret eden uzmanlar, otomasyon ve yapay zekanın, belli kesimlerde işsizliğe neden olabileceğini söylüyor.
Yapay zeka sistemleri kritik altyapıya daha fazla entegre epey, siber akın ve berbat niyetli kullanım riskinin de arttığını vurgulayan Prof. Dr. Burhan Pektaş, “Kişisel bilgilerinizi toplumsal medyada ve başka çevrimiçi platformlarda paylaşma konusunda dikkatli olun.” ihtarında bulundu.
Üsküdar Üniversitesi Mühendislik ve Tabiat Bilimleri Fakültesi (MDBF) Dekan Yardımcısı, Bilgisayar Mühendisliği (İng) Kısmı Lideri Prof. Dr. Burhan Pektaş, yapay zeka ve bilişim hataları konusunu kıymetlendirdi.
Yapay zekanın gelecekteki gelişimi belirsiz…
Yapay zekanın (AI) gelecekteki gelişiminin hayli meçhul olduğunu söz eden Prof. Dr. Burhan Pektaş, şunları lisana getirdi:
“Ancak bilim topluluğunun yapay zekanın geleceğini tartışırken dikkate aldığı çeşitli eğilimler ve potansiyel senaryolar var. Örnek vermek gerekirse; yapay zekanın vakitle daha karmaşık ve yetenekli hale gelmesi mümkündür. Makine tahsili, hudut ağları ve öbür yapay zeka teknolojilerindeki ilerlemeler, karmaşık vazifeleri daha yüksek verimlilik ve doğrulukla gerçekleştirebilen sistemlere yol açabilir.”
Gizlilik sıkıntıları ve muhtemel berbata kullanımla ilgili telaşlar var!
Yapay zeka teknolojileri ilerledikçe etik konular, kapalılık problemleri ve muhtemel berbata kullanımla ilgili tasalar ve tartışmaların artacağına da işaret eden Prof. Dr. Burhan Pektaş, “Yapay zeka sistemlerinin sorumlu bir halde geliştirilmesini ve konuşlandırılmasını sağlamak için bilim topluluğunun ve siyaset yapıcıların bu zorlukları ele alması gerekecektir. Yapay zekanın sıhhat ve eğitimden ulaşım ve cümbüşe kadar günlük hayatın çeşitli taraflarına daha fazla entegre olması bekleniyor. Bu entegrasyon, verimliliğin ve rahatlığın artmasını sağlayabilir lakin birebir vakitte toplumsal tesirler ve işten çıkarmalarla ilgili soruları da gündeme getirir.” dedi.
Yapay zeka işsizliğe neden olabilir mi?
Yapay zekanın pek çok yarar sağlama potansiyeline sahipken tıpkı vakitte kaygıları ve potansiyel riskleri de beraberinde getirdiğini anlatan Prof. Dr. Burhan Pektaş, şunları lisana getirdi:
“Yapay zeka gelişiminin etik, toplumsal ve ekonomik sonuçlarını dikkate almak değerlidir. Otomasyon ve yapay zeka, makul bölümlerde işlerin yerinden edilmesine yol açarak potansiyel olarak ekonomik aksamalara ve işsizliğe neden olabilir. Bu değerli bir tasa kaynağıdır ve işgücüne tekrar marifet kazandırma ve yeni iş fırsatları yaratma gayretleri hayati ehemmiyet taşıyacaktır.
Yapay zeka sistemleri, kendilerini eğitmek için kullanılan datalarda mevcut olan önyargıları devralabilir ve bu da adil olmayan yahut ayrımcı sonuçlara yol açabilir. Düzgün bir halde ele alınmazsa, bu önyargı mevcut toplumsal eşitsizlikleri güçlendirebilir ve işe alma, borç verme ve ceza adaleti üzere alanlarda adil olmayan muameleye yol açabilir.
Yapay zeka sistemleri kritik altyapıya daha fazla entegre epeyce, siber akın ve berbat niyetli kullanım riski de artıyor. Bilgisayar korsanları, bilgileri manipüle etmek, hizmetleri kesintiye uğratmak ve hatta otonom araçlar yahut endüstriyel sistemler kelam konusu olduğunda fizikî ziyana neden olmak için yapay zeka sistemlerindeki güvenlik açıklarından yararlanabilir.”
Yapay zeka siber güvenlik savunmalarını geliştirmek için güçlü bir araç olabilir
Yapay zeka (AI) teknolojilerinin siber güvenlik üzerinde ikili bir tesirinin olduğunu lisana getiren Prof. Dr. Burhan Pektaş, “Yapay zeka, bir yandan siber güvenlik savunmalarını geliştirmek, tehdit algılamayı otomatikleştirmek ve olaylara müdahaleyi düzgünleştirmek için güçlü bir araç olabilir. Öte yandan siber hatalılar, daha karmaşık ve amaca yönelik akınlar geliştirmek için yapay zekadan potansiyel olarak yararlanabilirler.” dedi.
Prof. Dr. Burhan Pektaş, yapay zekanın siber güvenliği ve siber hataları etkileme yollarından kimilerini şöyle sıraladı:
“Hedefli akınlar: Siber hatalılar, son derece şahsileştirilmiş ve ikna edici içeriğe sahip maksat odaklı kimlik avı kampanyaları üzere daha karmaşık ve gayeli hücumlar gerçekleştirmek için potansiyel olarak yapay zekayı kullanabilir.
Otomatik suistimaller: Yapay zeka, güvenlik açıklarını belirleme ve bunlardan yararlanma sürecini otomatikleştirerek saldırganların operasyonlarını ölçeklendirmesini kolaylaştırabilir.”
Yapay zeka tabanlı tespit sistemlerini manipüle etmek için teknikler kullanılabilir
Saldırganların, tespit düzeneklerinden kaçabilecek rakip girdiler sunarak yapay zeka tabanlı tespit sistemlerini manipüle etmek için teknikler kullanabileceğini anlatan Prof. Dr. Burhan Pektaş, “Siber hatalılar, güvenlik sistemleri tarafından kullanılan savunma sistemlerini incelemek ve bunlara ahenk sağlamak için yapay zekayı kullanabilir, bu da onların taktiklerini varsayım etmeyi ve bunlara karşı koymayı daha güç hale getirebilir.” dedi.
Sahte içerik oluşturma…
Prof. Dr. Burhan Pektaş, yapay zeka tarafından oluşturulan deepfake (sahte) içeriklerin bireyleri yahut kuruluşları aldatmak için gerçekçi görünen lakin geçersiz sesli yahut imajlı bildiriler oluşturarak toplumsal mühendislik akınları için kullanılabileceğini kaydederek, “Yapay zekanın evrimi, siber tehditlere yeni boyutlar kazandırarak saldırganların yapay zekayı makûs gayelerle kullanma potansiyeline sahip olmasını sağladı.” diye konuştu.
Siber taarruz için kimlik avı e-postaları oluşturulabilir
Saldırganların siber akınlarını geliştirmek için yapay zekayı berbata kullanabileceği çeşitli yollar olduğunu da tabir eden Prof. Dr. Burhan Pektaş, “Saldırganlar, yüksek seviyede amaca yönelik ve ikna edici kimlik avı e-postaları oluşturmak maksadıyla büyük data kümelerini ve toplumsal medya profillerini tahlil etmek için yapay zekayı kullanabilir. Bu, bireylerin yasal ve makus niyetli iletileri ayırt etmesini zorlaştırır.” dedi.
Hedefteki kişi kimliğine bürünerek ikna edici ses ve görüntü kayıtları oluşturabilir
Yapay zekanın, klâsik imza tabanlı antivirüs tahlillerinden kaçmak için kodunu ve görünümünü dinamik olarak değiştirebilen, çok biçimli, makûs maksatlı yazılım oluşturmak için kullanılabileceğini de kaydeden Prof. Dr. Burhan Pektaş, “Yapay zeka algoritmaları, makus emelli yazılım çeşitlerinin oluşturulmasını otomatik hale getirebilir, bu da güvenlik sistemlerinin tehditlerin hacmine ve çeşitliliğine ayak uydurmasını zorlaştırır. Saldırganlar, yasal bireylerin kimliğine bürünerek ikna edici ses ve görüntü kayıtları oluşturmak için yapay zeka tarafından oluşturulan deepfake teknolojisini kullanabilir. Bu, toplumsal mühendislik taarruzları yahut yanlış bilgi yaymak için kullanılabilir.”
Yapay zeka dayanaklı sohbet robotlar kamuoyunu manipüle etmek için kullanılabilir
Yapay zeka dayanaklı sohbet robotları yahut toplumsal botların, çevrimiçi etkileşimlerde insan davranışını taklit etmek, dezenformasyon yaymak, toplumsal mühendislik hücumları gerçekleştirmek yahut kamuoyunu manipüle etmek için kullanılabileceğini de anlatan Prof. Dr. Burhan Pektaş, “Saldırganlar, güvenlik hedefiyle kullanılan yapay zeka modellerinin eğitim bilgilerini manipüle etmeye çalışabilir.” diye bilgi verdi.
Kişisel dataların güvenliği
Yapay zekanın, ferdî data güvenliği üzerinde değerli bir tesirinin var olduğunu, etik ve kapalılık telaşlarının da ortaya çıktığını tabir eden Prof. Dr. Burhan Pektaş, “Yapay zeka sistemleri eğitim için ekseriyetle kapsamlı bilgi kümelerine dayanır. Bu bilgi kümeleri hassas ferdî bilgiler içerdiğinde etik dert ortaya çıkıyor ve data toplamanın kapsamı ve gerekliliği hakkında sorular ortaya çıkıyor. Etik uygulamalar, bireylerin ferdî datalarını toplamadan ve işlemeden evvel aydınlatılmış onamlarının alınmasını içerir. Bilgilerin nasıl kullanılacağını açıklamanın şeffaflığı çok değerlidir.” dedi.
Bilişim hatalarına karşı korunmak için bireyler ve kurumlar neler yapabilir?
Siber hatalara karşı müdafaanın, proaktif tedbirlerin, güvenlik uygulamalarının ve daima dikkatin bir kombinasyonunu içerdiğini kaydeden Prof. Dr. Burhan Pektaş, siber güvenliğin artırılmasına yönelik hem bireylere hem de kurumlara yönelik tekliflerini şöyle sıraladı:
Güçlü ve eşsiz şifreler kullanın: Karmaşık şifreler oluşturun ve birebir şifreyi birden fazla hesapta kullanmaktan kaçının. Güçlü, eşsiz şifreler oluşturmak ve saklamak için bir şifre yöneticisi kullanmayı düşünün.
Çok faktörlü kimlik doğrulamayı (MFA) etkinleştir: Parolaların ötesinde ekstra bir güvenlik katmanı eklemek için mümkün olan her yerde MFA’yı uygulayın.
Yazılımı yeni tutun: Güvenlik açıklarını düzeltmek ve güvenliği artırmak için işletim sistemlerini, yazılımları ve uygulamaları sistemli olarak güncelleyin.
E-postalara karşı dikkatli olun: Şüpheli kontaklara tıklamaktan yahut bilinmeyen kaynaklardan ekleri indirmekten kaçının. E-postaların, bilhassa de hassas bilgiler isteyen e-postaların meşruiyetini doğrulayın.
Güvenli Wi-Fi ağlarını kullanın: Ev Wi-Fi ağlarını güçlü parolalar ve şifrelemeyle koruyun. VPN kullanmadığınız sürece hassas süreçler için halka açık Wi-Fi kullanmaktan kaçının.
Güvenlik yazılımını kurun ve güncelleyin: Saygın bir antivirüs ve berbat maksatlı yazılımdan muhafaza yazılımı yükleyin ve aktüel tutun.
Önemli dataları yedekleyin: Kritik bilgileri sistemli olarak harici bir aygıta yahut inançlı bir bulut hizmetine yedekleyin.
Haberdar olun: Saygın kaynaklar aracılığıyla yeni siber tehditler ve en uygun güvenlik uygulamaları hakkında aktüel bilgilere sahip olun.
Kişisel bilgi paylaşımını sınırlayın: Kişisel bilgilerinizi toplumsal medyada ve öbür çevrimiçi platformlarda paylaşma konusunda dikkatli olun
Kaynak: (BYZHA) Beyaz Haber Ajansı
