Büyük lisan modelleri ile gelen beş değerli risk
Yapay zekayı kullananlar dikkat
Yapay zeka ve onun sağladığı imkanları herkes konuşuyor. Birinci günlerde duyulan heyecan yerini yavaş yavaş risklerin ve gerçekliğinin sorgulanmasına bırakmaya başladı. Siber güvenlik şirketi ESET yapay zeka araçlarını destekleyen büyük lisan modellerini (LLM) incelemeye aldı.
İş dünyası ve BT önderleri, bir yandan teknolojinin müşteri hizmetleri ve yazılım geliştirme üzere alanlarda yaratacağı risk potansiyelini düşünüyor, başka yandan da yeni gelişmelerin muhtemel dezavantajları ve dikkat edilmesi gereken risklerin de giderek daha fazla farkına varıyorlar. Kuruluşların büyük lisan modellerinin (LLM) potansiyelinden yararlanabilmeleri için, teknolojinin yapılan işe ziyan verebilecek zımnî risklerini de hesaplamaları gerekiyor.
Büyük lisan modelleri nasıl çalışıyor?
ChatGPT ve öbür üretken yapay zeka araçları, LLM’ler tarafından desteklenmektedir. Muazzam ölçüde metin verisini işlemek için yapay hudut ağlarını kullanarak çalışırlar. Sözler ortasındaki kalıpları ve bunların içeriğe nazaran nasıl kullanıldığını öğrendikten sonra model, kullanıcılarla doğal lisanda etkileşime girebiliyor. ChatGPT’nin göze çarpan muvaffakiyetinin ana nedenlerinden biri latife yapma, şiir yazma ve genel olarak gerçek bir beşerden ayırt edilmesi güç bir halde irtibat kurma yeteneğidir. ChatGPT üzere sohbet robotlarında kullanılan LLM dayanaklı üretken yapay zeka modelleri, harika güçlü arama motorları üzere çalışıyor ve soruları yanıtlamak ve misyonları insan gibisi bir lisanla yerine getirmek için öğrendikleri dataları kullanıyor. İster kamuya açık modeller ister bir kuruluş içinde dahili olarak kullanılan tescilli modeller olsun, LLM tabanlı üretken yapay zeka, şirketleri muhakkak güvenlik ve saklılık risklerine maruz bırakabilir.
Beş kıymetli büyük lisan modeli riski
Hassas bilgilerin fazla paylaşımı LLM tabanlı sohbet robotları sır saklama ya da unutma konusunda pek âlâ değil. Bu, yazdığınız rastgele bir bilginin model tarafından benimsenebileceği ve oburlarının kullanımına sunulabileceği yahut en azından gelecekteki LLM modellerini eğitmek için kullanılabileceği manasına gelir.
Telif hakkı zorlukları LLM’lere büyük ölçüde data öğretilir. Fakat bu bilgiler çoklukla içerik sahibinin açık müsaadesi olmadan web’den alınır. Kullanmaya devam ettiğinizde potansiyel telif hakkı meseleleri oluşabilir.
Güvensiz kod Geliştiriciler, pazara çıkış müddetlerini hızlandırmalarına yardımcı olması maksadıyla giderek daha fazla ChatGPT ve gibisi araçlara yöneliyor. Teorik olarak kod parçacıkları ve hatta tüm yazılım programlarını süratli ve verimli bir formda oluşturarak bu yardımı sağlayabilir. Lakin güvenlik uzmanları bunun birebir vakitte güvenlik açıkları da oluşturabileceği konusunda uyarıyor.
LLM’nin kendisini hackleme LLM’lere yetkisiz erişim ve bunlar üzerinde değişiklik yapmak, bilgisayar korsanlarına, modelin süratli enjeksiyon atakları yoluyla hassas bilgileri ifşa etmesini sağlamak yahut engellenmesi gereken başka hareketleri gerçekleştirmek üzere makus niyetli faaliyetler gerçekleştirmeleri için bir dizi seçenek sunabilir.
Yapay zeka sağlayıcısında bilgi ihlali Yapay zeka modelleri geliştiren bir şirketin kendi bilgilerinin de ihlal edilmesi, örneğin bilgisayar korsanlarının hassas özel bilgiler içerebilecek eğitim datalarını çalması ihtimali her vakit vardır. Birebir durum data sızıntıları için de geçerlidir.
Riskleri azaltmak için yapılması gerekenler:
Kaynak: (BYZHA) Beyaz Haber Ajansı
POLİTİKA
03 Kasım 2024EKONOMİ
03 Kasım 2024GÜNDEM
03 Kasım 2024SPOR
03 Kasım 2024EKONOMİ
03 Kasım 2024SAĞLIK
03 Kasım 2024EKONOMİ
03 Kasım 2024Veri politikasındaki amaçlarla sınırlı ve mevzuata uygun şekilde çerez konumlandırmaktayız. Detaylar için veri politikamızı inceleyebilirsiniz.