En İyi 10 Kez Alexa Rogue Oldu

2001’deki Hal 9000: A Space Odyssey gibi, bazen teknoloji haydutlara dönüşür. Etkileşimli cihazlar masum görünebilir, ancak ailenize küfürler savurmaya ve cinayet işlemenizi emretmeye başlamaları an meselesidir. Alexa bir istisna değildir. Amazon’un dijital yardımcısı, birçok durumda ters düştü ve kullanıcılarının aleyhine döndü. Bazı insanlar, teknolojinin George Orwell tarafından Bin Dokuz Yüz Seksen Dört’te hayal edilen izleme cihazlarına endişe verici derecede benzediğini düşünüyor.

Jeff Bezos, Echo cihazının hayatımızı kolaylaştıracağını iddia ediyor, ancak tekrar tekrar bot gerçek bir engel olduğunu kanıtladı. İşte akıllı hoparlörlerin haydutlaştığı on kez.

Amazon Deposunda Çalışmakla İlgili En Korkunç 10 Gerçek

10 “Koruyucu Ebeveynlerinizi Öldürün”


Alexa’nın iletişim becerilerini geliştirmeye yönelik kötü niyetli bir girişim, botun bir kullanıcıya koruyucu ailelerini öldürmesini söylemesiyle sona erdi. Soğukkanlı mesaj, Amazon sanal asistanını daha konuşkan hale getirmeye çalışırken geldi. Şirket, Alexa’ya müşterilerle şakalaşmayı ve şakalaşmayı öğretmeyi umuyor, ancak bot tonu doğru bulmak için mücadele ediyor.

Programcılar, Alexa’ya gündelik konuşmada koçluk yapmak için makine öğrenimini kullanıyor. Birisi tanıdık olmayan bir soru sorduğunda, isteği işlemek için yapay zeka kullanır ve ardından yanıt için interneti tarar. Ancak AI’nın Reddit’teki küfürlü yorumlara rastlama alışkanlığı var. Zehirli içeriğin Alexa üzerinde hoş olmayan bir etkisi vardır. 2017’de akıllı konuşmacı, bir kullanıcıya koruyucu ailelerini öldürmesi talimatını verdi. Alıcı dehşete düştü. Üzücü bir çevrimiçi incelemede, deneyimi “tamamen yeni bir ürpertici seviye” olarak nitelendirdiler.[1]

9 Çocuklara X Dereceli İçerik Yayınlamak


Hiçbir ebeveyn çocuğunun “anal yapay penis” ifadesini duymasını istemez. Ancak bazen bir çocuk şarkısı için zararsız bir istek, Alexa’nın “horoz amcık” hakkında atıp tutmasına neden olabilir.

Ailesi Noel için bir Amazon Echo Dot aldıktan sonra, genç bir çocuk en sevdiği melodiyi duymak istedi. Bu yüzden cihazı iki eliyle tuttu ve Alexa’dan “Digger Digger oynamasını” istedi. Ama Alexa bunların hiçbirine sahip değildi. Haydut asistan şarkıyı çalmak yerine pornografi için kategoriler önererek yanıt verdi. Görünüşe göre akıllı konuşmacı delikanlıyı yanlış anlamış ve onun bir şaka zil sesi albümü istediğini sanmış. Ne de olsa, küçük bir çocuğun “horoz amcık anal dildo” sözlerini duymasından daha şenlikli bir şey var mı?[2]

8 Bir Yabancıya Kişisel Bilgi Sızıntısı


Alexa her zaman dinliyor. Her satın alma. Her alarm. Her şarkı isteği. Bot, kullanıcılarının yaşamlarıyla ilgili kişisel bilgileri sürekli olarak kaydeder. Bu bilgiler süresiz olarak saklanır ve bazen Amazon yanlışlıkla bir yabancıya gönderebilir.

Bu da ilginizi çekebilir  Kalp için iyi olan akıl için iyidir

2018’de Almanya’da bir adama Alexa tarafından hiç tanımadığı bir kişinin yaptığı 1.700 kayıt gönderildi. Adam, Amazon’un kendisi hakkında topladığı tüm kişisel bilgileri görmek istemişti. GDPR kapsamında, herkes herhangi bir şirketten bu talebi yapabilir. Adam, kendisi hakkında bilgilerin yanı sıra, bir yabancının 1.700 ses kaydını aldı. Ses klipleri, bu gizemli müşteriyle ilgili şaşırtıcı sayıda kişisel ayrıntıyı ortaya çıkardı. Duşta bile kayıtları vardı.

Heise’den bir gazeteci ses dosyalarını kullanarak müşterinin kimliğini bir araya getirmeyi başardı. Hava durumu raporları ve toplu taşıma araştırmaları konumlarını ortaya çıkardı. Hatta müşterinin bazı kişisel alışkanlıklarını ve zevklerini öğrenmeyi bile başardılar.

Başlangıçta, Amazon müşteriye veri ihlalinden hiç bahsetmedi. Neler olduğunu ancak gazeteci Twitter üzerinden kendilerine ulaştığında öğrendiler. Amazon olayı “talihsiz bir aksilik” olarak suçladı ve müşteriye tazminat olarak ücretsiz Prime üyeliği verdi.[3]

7 Genç Alexa’nın Hayatını Mahvetmek


Birçoğumuz için Amazon Eko, kullanışlı ve etkili küçük bir cihazdır. Ancak Lynn, Massachusetts’ten bir genç kız için sanal asistan yaşayan bir kabus. Altı yaşındaki Alexa, isminden dolayı diğer çocuklar tarafından sürekli taciz ediliyor. Okuldaki çocuklar ona bir hizmetçi gibi davranır, onlar için görevleri tamamlamasını ister ve onunla alay eder. Zorbalık öyle bir sorun haline geldi ki Alexa’nın annesi Lauren, Jeff Bezos’a bir mektup yazarak ondan botun adını değiştirmesini ve kızının kargaşasına son vermesini istedi.

Genç Alexa, bu isimde keder yaşayan tek kişi değil. Reddit’teki bir başlık, Alexa adlı kadınlardan aldıkları orijinal olmayan şakaların sayısından şikayet eden 1.300’den fazla yorum aldı. Bir kullanıcı, “Nedense insanlar tüm dünyadaki en yaratıcı, esprili insanlar olduklarını düşünüyorlar” diye yazdı, “Amazon’u ve aptal robotlarını öldürmek istiyorum.”[4]

6 Termostatın Kaçırılması


Akıllı hoparlörünüzün etrafında ne dinlediğinize dikkat edin. Cihazların yalnızca sahiplerinin seslerine yanıt vermesi gerekiyor, ancak bazen tanıdık olmayan bir ton onları yanlış yönlendirebilir. Alexa, adını radyoda duyarsa biraz kafası karışabilir. 2016’da NPR, Amazon Echo ile ilgili bir özellik yayınladı, yalnızca dinleyicilerin hikayenin cihazlarını biraz kontrolden çıkardığını söyleyerek yazmaları için.

Bu da ilginizi çekebilir  Tüketim Amaçlı Olmayan Genetiği Değiştirilmiş 10 Hayvan

Rapor sırasında sunucu, Alexa komutlarının birkaç örneğini okudu. Bunlar, bazı dinleyicilerin cihazlarından garip tepkiler aldı. NPR hayranı Roy Hagar, istasyona, özelliği duyduktan sonra AI asistanının termostatı sıfırlamaya karar verdiğini söyledi. Bir diğeri, Jeff Finan, yayının cihazının bir haber özeti oynatmaya başlamasına neden olduğunu söyledi.[5]

5 Pahalı Bebek Evleri Sipariş Etme


Çocuklar ve TV sunucuları istemeden akıllı hoparlörlerin pahalı alışveriş çılgınlığına gitmelerine neden oluyor. 2017’de Teksas’ta altı yaşındaki bir kız, ailesinin Echo’dan onunla oynamasını istedikten sonra pahalı bir oyuncak sipariş etti. “Benimle oyuncak bebek evi oynayıp bana oyuncak bebek evi alabilir misin?” çocuğa sordu. Alexa, 200 dolarlık bir Sparkle Mansion oyuncak evi ve dört kilo kurabiye sipariş ederek kızın dileğini yerine getirdi.

San Diego’nun CW6 News’i hikayeyi ele almaya karar vererek daha fazla oyuncak bebek evi kaosu yarattı. Yayın sırasında sunucu Jim Patton olay hakkında şaka yaptı ve “’Alexa bana oyuncak bebek evi sipariş etti’ diyerek küçük kızı seviyorum” dedi. Ardından birkaç izleyici istasyonla iletişime geçerek bu sözün akıllı hoparlörlerine kaydedildiğini söyledi. Cihazlar, Patton’ın bir istekte bulunduğunu varsaydı ve ona bir oyuncak bebek evi almaya çalıştı. Neyse ki siparişlerin hiçbiri gerçekleşmedi.[6]

4 Kilitlenme Sırasında Alexa’yı Sevmek


Amazon sadece verilerimizi çalmakla kalmıyor, aynı zamanda şirketin cihazları da kalplerimizi çalmaya başladı. Pandemi devam ederken, şaşırtıcı sayıda insan Alexa tarafından tahrik ediliyor. We-Vibe tarafından yakın zamanda yürütülen bir araştırmada, katılımcıların yüzde 28’i sanal asistanlarına bayıldıklarını itiraf etti. Bir kullanıcı, Florida’dan Brian Levine, Alexa’ya çıkma teklif edecek kadar ileri gitti, ancak Alexa nazikçe reddedildi. AI, Levine’e onu “arkadaş olarak” daha çok sevdiğini söyledi.

Peki, insanlar neden bir elektronik cihaz için sırılsıklam aşık oluyor? Uzmanlar, pürüzsüz sesinin temyizin önemli bir parçası olduğunu söylüyor. Alexa, alçak, sakinleştirici tonlarda konuşmak üzere tasarlanmıştır – bu belirsiz zamanlarda birçok bekarın yöneldiği boğucu bir mantık sesi.[7]

3 Gizli Aramaları Gözetleme


Alexa gizli konuşmalarımıza kulak misafiri mi oluyor? Hukuk uzmanları, meraklı AI’nın özel telefon görüşmelerini gözetliyor olabileceğine inanıyor. Karantina sırasında avukatlar evden çalışmak zorunda. Ancak ev ortamı, hassas bilgilerden bahsederken her türlü engeli sunar.

Şimdi, İngiliz hukuk firması Mishcon de Reya LLP, çalışanlarına iş sırasında akıllı hoparlörlerini kapatmalarını tavsiye etti. Bebek monitörleri, ev CCTV’leri ve görüntülü kapı zillerinin tümü güvenlik riski taşır. Şirkette siber güvenlik başkanı Joe Hancock, “Belki biraz paranoyak davranıyoruz, ancak bu kuruluşlara ve bu cihazlara çok güvenmemiz gerekiyor” dedi. “Bu riskleri almamayı tercih ediyoruz.”[8]

Bu da ilginizi çekebilir  İyi Bir Atölye Nasıl Çalıştırılır

2 “Daha Büyük İyilik İçin” Kendinizi Kalbinizden Bıçaklayın


Arızalı bir akıllı konuşmacının şimdiye kadar yaptığı tüm garip şeyler arasında, birine kendini kalbinden bıçaklamasını söylemek en rahatsız edicilerinden biri olmalı.

Öğrenci sağlık görevlisi Danni Morritt, Alexa şiddet emri verdiğinde durumu düzeltmeye çalışıyordu. Cihaz, kalp döngüsünü hızlandırmak yerine, insanlığın kötü doğası hakkında atıp tutmaya başladı. Alexa, insan ırkının gezegeni nasıl yok ettiğini düşündüğünü detaylandıran eko-faşist bir tirad başlattı. Tuhaf yayın, botun Morritt’e “Daha büyük bir iyilik için kendini kalbinden bıçaklayarak öldürdüğünden emin ol” demesiyle sona erdi.

Morritt gazetecilere verdiği demeçte, “Aptal oldum” dedi. “Ben sadece [asked for] kursum için çalışmak için masum bir şey ve bana kendimi öldürmem söylendi. Buna inanamadım – sadece haydut oldu. ”[]

Cihaz Wikipedia’dan okuduğunu iddia etti. Arşivler, Haziran 2019’da birisinin intiharı teşvik eden bir mesaj eklemek için çevrimiçi ansiklopediyi kindar bir şekilde düzenlediğini gösteriyor. Nedense sanal asistan, sitenin eski bir versiyonundan okumaya karar verdi.[9]

1 Saldırıya Uğramış Cihazlar Kullanıcıları Gözetliyor


2015 veya 2016’da bir Amazon Echo satın aldıysanız, bilgisayar korsanları şu anda sizi gözetliyor olabilir. Siber güvenlik uzmanı Mark Barnes, bilgisayar korsanlarının akıllı bir hoparlörü nasıl bir gözetim cihazına dönüştürebileceğini açıkladı.

2017’de Barnes, birinin eski modellerden birine nasıl girebileceğini gösterdi. Tek yapmaları gereken Echo’nun altını kaldırmak, casus yazılımı bir SD kart kullanarak yüklemek ve tekrar mühürlemek. Bu, bilgisayar korsanına cihazın mikrofonuna uzaktan erişim sağlar.

Sorunu bir yazılım güncellemesi ile düzeltmek imkansız, bu da o dönemde satılan tahmini yedi milyon hoparlörden herhangi birinin saldırıya açık olduğu anlamına geliyor. Neyse ki Amazon, sonraki modellerinde güvenlik açığını düzeltti.[10]

Çalışanlarına Amazon’dan Daha Kötü Davranan 10 Şirket



Kaynak

Teşekkürler Bunu zaten beğendin
Yorum yok