Üye Girişi
Bağlan Google+ ile Bağlan Facebook ile Bağlan
Yeni Kayıt
Tüm Forumlar
  • Tüm Forumlar
  • Donanım / Hardware
  • Anasayfa Haberleri
  • Bu Konuda
Şimdi Ara

Yapay zekalar için ilk virüs geliştirildi: ChatGPT ve Google Gemini’yi zehirliyor

Sıcak Fırsatlarda Tıklananlar
Editörün Seçtiği Fırsatlar
Daha Fazla
Bu Konudaki Kullanıcılar: Daha Az
6 Misafir - 6 Masaüstü
5 sn
10
Cevap
0
Favori
328
Tıklama
Daha Fazla
İstatistik
  • Konu İstatistikleri Yükleniyor
Konuya Özel
2 oy
Öne Çıkar
Cevapla
Sayfa: 1
Giriş
Mesaj
  • Yapay zekalar için ilk virüs geliştirildi: ChatGPT ve Google Gemini’yi zehirliyor
    Geçtiğimiz yıl ve mevcut durumda çok sayıda şirket birbirine bağlı üretken yapay zeka ekosistemleri oluşturarak bunları yeni ve mevcut uygulamalarına dahil etti. Ancak uzmanlar bir süredir diyalog zehirlenmesi, gizlilik sızıntısı ve jailbreak gibi kritik sorunlar hakkında uyarıyor. Yapılan yeni bir çalışmada araştırmacılar bu riski gözler önüne sermek için kendi kendini kopyalayan istemler kullanarak üretken yapay zeka (GenAI olarak kısaltılabilir) ekosistemlerini hedef almak üzere tasarlanmış ilk solucan olan Morris II'yi geliştirdi.



    Yapay zekalar için ilk virüs



    Yapay zekalar için geliştirilen ilk virüs olan Morris II, yapay zeka e-posta asistanlarının kişisel verileri sızdırmasına ve test ortamında spam e-postalar göndermesine neden oldu.



    Araştırmacılar, yeni "sıfır tıklamalı" yapay zeka solucanının, metin ve görüntü girdileri aracılığıyla düşmanca kendi kendini kopyalayan bir istem kullanarak ChatGPT, Gemini ve açık kaynaklı yapay zeka modeli LLaVA'dan yararlanabildiğini tespit etti. Bu girdiler sayesinde solucanın ekosistemi içindeki bağlantıdan yararlanarak saldırıyı diğer modellere de ulaştırmasının mümkün olduğu belirtiliyor. Araştırmaya göre virüs, kimlik avı saldırıları düzenlemek, spam e-postalar göndermek ve hatta propaganda yaymak için kullanılabilir.



    Yapay zekalar için ilk virüs geliştirildi: ChatGPT ve Google Gemini’yi zehirliyor
    Bu araştırmanın amacı, hiçbir yazılımın ya da GenAI araçlarını oluşturan büyük dil modellerinin bilgisayar virüsleri tehdidine karşı bağışık olmadığını göstermek. Bu arada Cornell Üniversitesi, yazılım firması Intuit ve Technion’dan araştırmacılar tarafından geliştirilen Morris 2, adını 1988 yılında Cornell öğrencisi Robert Morris tarafından geliştirilen ve kendi kendini kopyalayan ilk bilgisayar solucanlarından biri olan Morris Worm'dan alıyor. O dönemlerde Morris Worm, internete bağlı tüm bilgisayarların yaklaşık %10'unu çökertmişti.



    Ayrıca Bkz.Elon Musk, ChatGPT üreticisi OpenAI’a dava açtı: "Bu açık bir ihanet"



    Araştırmacılara göre üretken yapay zeka ekosistemindeki kötü mimari tasarım kendi kendini kopyalayan kötü amaçlı yazılımların oluşturmasına izin veriyor. Dolayısıyla bu, GenAI araçlarının daha iyi güvenlik özellikleri sunması gerektiğine işaret ediyor. Morris Worm gibi bir yazılım günümüzde veya gelecekte GenAI ekosistemlerine bulaşırsa etkileri çok büyük olabilir.






    Kaynak:    https://www.pcmag.com/news/malware-worm-poison-chatgpt-gemini-powered-assistants
    Kaynak:https://sites.google.com/view/compromptmized







  • Sen istediğin kadar yapay zeka yap insan oğlu rahat durmaz

    < Bu ileti Android uygulamasından atıldı >
  • SkyNet v0.1 Beta is coming :p

  • O zaman kalıcı bir önlem veya tartışmasız bir virüs zaferi ortaya çıkmazsa yapay zekalar ve sanal virüsler arasında rekabetçi bir evrimsel yarışın başladığını resmen ilan edebilir miyiz? Bu aslında haberdeki araştırmacıların göstermek istediği gibi çok beklenebilecek ve çeşitli önlemler alınması gereken bir hadise dizisi olur. Virüslenmiş bir yapay zeka - belki şu anki haliyle bile - tıpkı art niyetli kimselerin elinde olan bir yapay zeka gibi büyük olumsuzluklara ve zararlara yol açabilir.

     < Bu mesaj bir yönetici tarafından değiştirilmiştir >
  • böyle olursa kapatırlar yapay zekayı. insan oğlunun yakın zamanda AI'dan daha önde olabileceği tek alan var, o da bu da virus gibi herkesin ele geçirilemeyecek olması heralde. ( politika hariç tabi :) o herkese bulaşmış bir kere )

  • bayılıyorum bu yarışa
  • İnsanlık için kötü günlerin başlangıcı mi? İnsanlığın hizmetine sunulan yapay zeka robot teknolojisi kötü amaçlı virüslerin yönlendirmesiyle birer canavara dönüşebilir mi? Temel soru bu olmali

  • Ultron geliyor

  • Hey gidi hey.. Abi adamlar sosyal medyalarla, dizilerle hatta daha bebekken çizgi filmlerle, oyunlarla vs vs türlü subliminal tekniklerle biz insanların beynine virüs yerleştiriyorlar, yapay zeka da neymiş.. İnsanlığın aldığı hal ortada işte, insan demeye bin şahit ister..

    • 
Sayfa: 1

Benzer içerikler

- x
Bildirim
mesajınız kopyalandı (ctrl+v) yapıştırmak istediğiniz yere yapıştırabilirsiniz.
Hizmet kalitesi için çerezleri kullanabiliriz. DH’ye girerek kullanım izni vermiş sayılırsınız.
Anladım Veri Politikamız