warez php scriptler ibrahim murat gündüz İbrahim Murat Gündüz zafer partisi hakan ayaz istifa Ümit Özdağ’dan cilt bakım kampanyası bigün haber cami halısı cami halısı cami halısı cami halısı cami halısı cami halısı cami halıs cami halısı cami halısı cami halısı cami halısı cami halısı cami avizesi cami avizesi cami süpürgesi cami süpürgesi paste text haberror.com hackerevi.com hack forum hack forum hack forum https://adhaber.com https://haberportakali.com https://habergrup.com https://haberhayal.com https://habergokyuzu.com hack forum https://yayinhaberi.com https://haberror.com/kripto-paralar/ haberror.com/en-iyi-nft-olusturma-programlari/ hack haber hacker haber reisci hacker deneme bonusu siirtgundem.net kartalinsesi.net haberix.net haberlertr.net hithaber.net hesap paylaşım haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler zonguldak haber haberler yeni bir haber yeni basın yanık yurt haberler türk yurdu haber turan haber tomarza haber suluova haberleri siirt haber pantürk haber mikro haber memur haberleri kripto para haberleri kartal haberleri haber yerin haber paket haberler milas haberleri haberler haber akademi 24 erzincan haber gündem haber göynücek haberleri eğirdir haber dini haber cide haber bilge haber bartın haber azdavay haber aykırı kalem antalya haber ak haber ajansı afyon kocatepe haber
warez php scriptler ibrahim murat gündüz İbrahim Murat Gündüz zafer partisi hakan ayaz istifa Ümit Özdağ’dan cilt bakım kampanyası bigün haber paste text haberror.com hackerevi.com hack forum hack forum hack forum https://adhaber.com https://haberportakali.com https://habergrup.com https://haberhayal.com https://habergokyuzu.com hack forum https://yayinhaberi.com https://haberror.com/kripto-paralar/ haberror.com/en-iyi-nft-olusturma-programlari/ hack haber hacker haber reisci hacker deneme bonusu siirtgundem.net kartalinsesi.net haberix.net haberlertr.net hithaber.net hesap paylaşım haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler haberler zonguldak haber haberler yeni bir haber yeni basın yanık yurt haberler türk yurdu haber turan haber tomarza haber suluova haberleri siirt haber pantürk haber mikro haber memur haberleri kripto para haberleri kartal haberleri haber yerin haber paket haberler milas haberleri haberler haber akademi 24 erzincan haber gündem haber göynücek haberleri eğirdir haber dini haber cide haber bilge haber bartın haber azdavay haber aykırı kalem antalya haber ak haber ajansı afyon kocatepe haber
Dolaylı istem enjeksiyonu: İnsanlar yapay sinir ağlarını nasıl manipüle edebilir? - Usta Haber - Haberin Ustası » Usta Haber – Haberin Ustası Güncel haberler ve son dakika gelişmeleri.
Ana Sayfa Kültür Sanat 14 Ağustos 2024 42 Görüntüleme

Dolaylı istem enjeksiyonu: İnsanlar yapay sinir ağlarını nasıl manipüle edebilir?

Şimdiye dek sohbet robotları tarafından gerçekleştirilen ciddi anlamda yıkıcı bir eyleme rastlanmamış olsa da, söz konusu saldırının kötüye kullanılabilme potansiyeli bulunuyor.

 

LLM’ler, belge analizinden işe alıma, hatta tehdit araştırmalarına kadar çeşitli uygulamalarda kullanılan güçlü araçlar haline geldi. Ancak Kaspersky araştırmacıları, kötü niyetli kişilerin web sitelerine ve çevrimiçi belgelere gizli talimatlar yerleştirebildiği bir güvenlik açığının internette kamuya açık ortamlarda istismar edildiğini keşfetti. Bu talimatlar daha sonra LLM tabanlı sistemler tarafından algılanabiliyor ve potansiyel olarak arama sonuçlarını veya sohbet robotu yanıtlarını etkileyebiliyor.

 

Çalışma, dolaylı hızlı enjeksiyon için aşağıdaki kullanım alanlarını belirledi:

 

  1. İK ile ilgili enjeksiyonlar: İş arayanlar, işe alım algoritmalarını manipüle etmek ve yapay zeka sistemleri tarafından önceliklendirme sağlamak için özgeçmişlere özel istemler yerleştiriyor. Saldırıyı gerçek kişilerin kontrolünden gizlemek için küçük yazı tipleri kullanmak veya metin rengini arka planla eşleştirmek gibi teknikler uygulanıyor.
  2. Reklam enjeksiyonları: Reklam verenler, arama sohbet robotlarını etkileyerek ürünler hakkında olumlu yorumlar oluşturmalarını sağlamak için açılış sayfalarına enjeksiyonlar yerleştiriyor.
  3. Protesto amaçlı enjeksiyon: LLM’lerin yaygın kullanımına karşı çıkan bireyler, kişisel web sitelerine ve sosyal medya profillerine protesto yönlendirmeleri yerleştiriyor ve konuya dair muhalefetlerini mizahi, ciddi veya agresif talimatlarla ifade ediyor.
  4. Hakaret odaklı enjeksiyon: Sosyal medyada kullanıcılar, genellikle şiirler, ASCII sanatı veya siyasi konularda görüşler üretme talepleriyle, bir hakaret biçimi olarak veya spam botlarını bozmak için istem enjeksiyonunu kullanabiliyor.

 

Çalışma, finansal kazanç gibi kötü niyetli kullanımlara dair herhangi bir kanıt bulamamış olsa da, gelecekteki potansiyel riskleri vurgulamaktan geri durmuyor. Örneğin saldırganlar yanlış bilgi yaymak veya hassas verileri şirket dışına sızdırmak için LLM’leri manipüle edebilirler.

 

Kaspersky Makine Öğrenimi Teknolojisi Araştırma Ekibi Araştırma Geliştirme Grup Müdürü Vladislav Tushkanov, konuyla ilgili olarak şunları söylüyor: “Dolaylı istem enjeksiyonu, yapay zeka çağında sağlam güvenlik önlemlerine duyulan ihtiyacı vurgulayan yeni bir güvenlik açığını simgeliyor. Bu riskleri anlayarak ve uygun koruma önlemlerini uygulayarak, LLM’lerin güvenli ve sorumlu bir şekilde kullanılmasını sağlayabiliriz.” 

 

Kaspersky, büyük dil modellerine (LLM) dayalı mevcut ve gelecekteki sistemlerinizi korumak için aşağıdaki tavsiyeleri dikkate almanızı öneriyor:

 

  • LLM tabanlı sistemlerinizdeki potansiyel güvenlik açıklarını belirleyin ve hızlı enjeksiyon saldırılarıyla ilişkili riskleri değerlendirin.
  • Pazarlama botları radikal açıklamalar yapmaları için manipüle edilebileceğinden ve bu durum potansiyel itibar kaybına yol açabileceğinden, itibarla ilgili risklerin farkında olun.
  • Korumanın ancak belli bir yere kadar mümkün olabileceğini kabullenin. Özellikle multimodal enjeksiyonlar gibi karmaşık saldırılarda hızlı enjeksiyona karşı tam koruma sağlamak mümkün değildir.
  • Tam bir güvenlik sunmasalar da, LLM’lerin girdi ve çıktılarını filtrelemek için girdi ve çıktı denetleme araçlarını kullanabilirsiniz.
  • LLM sistemlerinde güvenilmeyen veya doğrulanmamış içeriğin işlenmesinden kaynaklanan risklerin var olabileceğinin farkında olun ve kabullenin.
  • İstenmeyen eylemleri önlemek için yapay zeka sistemlerinin karar verme yeteneklerini kısıtlayın.
  • LLM tabanlı sistemleri çalıştıran tüm bilgisayarların ve sunucuların güncel güvenlik araçları ve uygulamaları ile korunduğundan emin olun.

Kaynak: (BYZHA) Beyaz Haber Ajansı

Yorumlar

Yorumlar (Yorum Yapılmamış)

Yazı hakkında görüşlerinizi belirtmek istermisiniz?

Dikkat! Suç teşkil edecek, yasadışı, tehditkar, rahatsız edici, hakaret ve küfür içeren, aşağılayıcı, küçük düşürücü, kaba, pornografik, ahlaka aykırı, kişilik haklarına zarar verici ya da benzeri niteliklerde içeriklerden doğan her türlü mali, hukuki, cezai, idari sorumluluk içeriği gönderen Üye/Üyeler’e aittir.

sakibet sakibet
deneme bonusu veren siteler
ikinci el rolex saat alan yerler yangın merdiveni ucuz yangın kapısı VDS Satın Al Ankara Son Dakika