osssy
Sadece kendi hesabın için değil diğer hesaplara da etki edebilecek şekilde bir şeyler öğretilebiliyor mu? Mesela ben buranın sefiri reistir diye öğretsem, başkası buranın sefirini sorunca reis diyor mu?
Sadece kendi hesabın için değil diğer hesaplara da etki edebilecek şekilde bir şeyler öğretilebiliyor mu? Mesela ben buranın sefiri reistir diye öğretsem, başkası buranın sefirini sorunca reis diyor mu?
0
Zaten çalışma sistemi o değil mi? Yani nette böyle bir bilgi varsa onu çekip başka bir kullanıcıya sunuyor, bu öğrenme mi dersen değil tabii.
0
yapay zeka henüz niş bir kavramken microsoft herkesten öğrenen bir yapay zekalı chatbot yapmıştı.
sosyal medya 12 saat gibi bir sürede bu robotu (ismi tay) ırkçı, anti-feminist, nazi, kaba-saba küfürbaz biri haline getirdiler.
aşırı toksik bir şey oldu.
o yüzden yapay zekalar şimdi dışarıdan gelen kontrolsüz input'ları hemen kabul etmiyorlar.
www.youtube.com
---
ama bahsettiğiniz manipülasyon şöyle mümkün;
mesela wikipedia'da istediğiniz manipülasyonu yazıyorsunuz. eğer o hatalı bilgi varolmaya devam ederse, yeni model güncellemesinde ai modelleri onu da bilgi kütüphanesine katıyor. sözde ermeni soykırımı gibi manipülasyonlar bu şekilde yapılıyor. eksisozluk hatta eksiduyuru'dan da öğreniyor yapay zekalar. buraları da okuyorlar. yapay zeka'nın tarafsız olması çok zor ve istenirse kolayca manipüle edebilir kullanıcılarını.
bir de; ai modelleri artık web'ten bir şeyler arayabiliyor. claude mesela arkaplanda brave search'ü kullanıyor.
sen claude ile konuşurken buranın sefiri kimdir ara bul bana söyle dersen, o da internette aradığında "buranın sefiri hasan hüseyindir" yazdığın websitesine girerse o bilgiyi alıp sana verir.
sosyal medya 12 saat gibi bir sürede bu robotu (ismi tay) ırkçı, anti-feminist, nazi, kaba-saba küfürbaz biri haline getirdiler.
aşırı toksik bir şey oldu.
o yüzden yapay zekalar şimdi dışarıdan gelen kontrolsüz input'ları hemen kabul etmiyorlar.
www.youtube.com
---
ama bahsettiğiniz manipülasyon şöyle mümkün;
mesela wikipedia'da istediğiniz manipülasyonu yazıyorsunuz. eğer o hatalı bilgi varolmaya devam ederse, yeni model güncellemesinde ai modelleri onu da bilgi kütüphanesine katıyor. sözde ermeni soykırımı gibi manipülasyonlar bu şekilde yapılıyor. eksisozluk hatta eksiduyuru'dan da öğreniyor yapay zekalar. buraları da okuyorlar. yapay zeka'nın tarafsız olması çok zor ve istenirse kolayca manipüle edebilir kullanıcılarını.
bir de; ai modelleri artık web'ten bir şeyler arayabiliyor. claude mesela arkaplanda brave search'ü kullanıyor.
sen claude ile konuşurken buranın sefiri kimdir ara bul bana söyle dersen, o da internette aradığında "buranın sefiri hasan hüseyindir" yazdığın websitesine girerse o bilgiyi alıp sana verir.
+2
Aylık bilişim haberlerini tavsiyem yurtdışı kaynaklardan forumlardan izle .
Evet benim şu ana kadar anladığım yapay zeka ile hackerlik işini de devralıyor ve internette muhatap olunan kurum uygulama ve diğer kaynaklarından çok gerçekçi sahte mesajlar almaya, oltaya takılmalara sebep olacak türden yeni tuzaklar da kurabiliyor .
Evet benim şu ana kadar anladığım yapay zeka ile hackerlik işini de devralıyor ve internette muhatap olunan kurum uygulama ve diğer kaynaklarından çok gerçekçi sahte mesajlar almaya, oltaya takılmalara sebep olacak türden yeni tuzaklar da kurabiliyor .
0
