25 milyon dolarlık sahte içerikli arama

Uluslararası bir firmadaki finans çalışanı, bir video görüşmesinde şirketin Finans Direktörü (CFO) ve diğer katılımcıların rolüne girmek için deepfake (montaj video) teknolojisini kullanan dolandırıcılara 25 milyon dolar aktarması için oyuna getirildi. Çalışan, gizli bir işlemle ilgili bir ileti aldığında öncesinde bir oltalama (kimlik avı) girişiminden şüphelendi. Fakat video görüşmesinden sonra diğer katılımcıların gerçek olduğuna inanarak işleme devam etmeye ikna oldu.

Sahtecilik, işçinin şüphelenip şirket merkeziyle danışmasıyla anlaşıldı. Hong Kong polisi, bu tür dolandırıcılıkla bağlantılı olarak 6 kişiyi tutukladı. En az 20 defa yapay zeka ile oluşturulan sahte içeriklerin, yüz tanıma programlarını kandırmak için kullanıldığını bildirdi.

Dolandırıcılar, halka açık video ve sesleri kullanarak sahte içerikler oluşturdu. Bu olay, daha önce ünlülerin sahte açık saçık görüntülerinin üretilmesi ve siyasi seçimlerin manipüle edilmesi gibi kullanılan deepfake teknolojisinin doğurduğu büyüyen tehdidi vurguluyor. Hong Kong polisi, deepfake teknolojisinin potansiyel riskleri konusunda halkı uyardı.