GenelTeknoloji

Kötü kararlar vermek için AI’lar algılanamayan arka kapılarla saldırıya uğrayabilir

İş dünyasında kullanılan AI algoritmaları genellikle üçüncü taraf şirketler tarafından oluşturulur; bu, firmalardaki haydut çalışanların AI'ya algılanamayan arka kapılar eklemesinin teorik olarak mümkün olduğu anlamına gelir.

Kötü kararlar vermek için AI’lar algılanamayan arka kapılarla saldırıya uğrayabilir

Yapay zeka iş dünyasında giderek daha fazla kullanılıyor. Ancak, oluşturulma şekli nedeniyle, yazılımın normal karar verme sürecini atlayan tespit edilemeyen özellikler içermesi için teorik bir potansiyel vardır, yani kötü niyetli üçüncü şahıslar tarafından istismar edilebilir.

Örneğin, bir boş iş pozisyonu için CV’leri kısa listeye almakla görevlendirilen bir AI modeli, kasten belirsiz bir ifade içeren herhangi birine gizlice öncelik vermek için yapılabilir. Veya onaylamak için kullanılan bir AI modeli veya…

Bir cevap yazın

E-posta hesabınız yayımlanmayacak.

Başa dön tuşu