這個(gè)僅限女生的應(yīng)用使用AI來(lái)篩選用戶的性別

一個(gè)名為Giggle的新社交應(yīng)用正在將自己定位為僅限女孩的社交平臺(tái)。要注冊(cè)，用戶必須自拍照。盡管聽(tīng)起來(lái)可能不太侵入性，但該應(yīng)用程序隨后使用“生物特征性別驗(yàn)證軟件”來(lái)確定該人是否是女性。如果這還不夠糟糕，那么如果您是跨性別的，該技術(shù)將無(wú)法正常工作。

該公司在其網(wǎng)站上指出：“ [g] glegle適用于所有女孩，然后再添加”，“由于giggle使用的性別驗(yàn)證軟件，跨性別女孩在進(jìn)行驗(yàn)證時(shí)會(huì)遇到麻煩。”反烏托邦小說(shuō)。

由澳大利亞編劇薩爾·格羅弗(Sall Grover)創(chuàng)立的Giggle可以觀察人臉的骨骼結(jié)構(gòu)，從而確定其性別。這在許多方面都是有問(wèn)題的，尤其是骨骼結(jié)構(gòu)顯然不能很好地表明性別認(rèn)同。盡管如此，吉格勒說(shuō)科學(xué)是健全的。該網(wǎng)站宣稱：“這是生物科學(xué)，而不是像顱相學(xué)這樣的偽科學(xué)。”

除了聽(tīng)起來(lái)很像偽科學(xué)。在Twitter上，人們喊出了該應(yīng)用程序固有的恐懼感。一位用戶寫道：“我們將像綿羊一樣等待我們的審判。”“它只需要一張自拍照-如果嘻嘻笑讓我們進(jìn)入，我們將受到女性社會(huì)的歡迎，并永遠(yuǎn)消失。如果沒(méi)有，我們將被拋棄在雜碎和排泄物中。”

最終，為跨性別女孩準(zhǔn)備了終極測(cè)試。我們將像羊一樣等待我們的審判。它所要做的只是一張自拍照-如果嘻嘻笑讓我們進(jìn)入，我們將受到女性社會(huì)的歡迎，并永遠(yuǎn)消失。如果沒(méi)有，我們將被丟棄在一堆雜碎和排泄物中pic.twitter.com/lZnw8AzZF0

— venmodiazepines(@transbitch)2020年2月7日

Grover回應(yīng)了批評(píng)，發(fā)推文說(shuō)她在構(gòu)建應(yīng)用程序時(shí)曾咨詢過(guò)跨性別女性，并確定最好公開(kāi)承認(rèn)該軟件的限制。她解釋說(shuō)：“我們與跨性別的女孩一起工作，他們認(rèn)為最好是先發(fā)現(xiàn)缺陷，這樣才不會(huì)造成傷害性的性別歧視。”后來(lái)，她說(shuō)她“感謝您的反饋”，并同意網(wǎng)站上的某些措辭“令人討厭”。

但是，該應(yīng)用程序的隱私權(quán)政策也令人擔(dān)憂。正如一個(gè)Twitter用戶指出的那樣，Giggle可以收集大量的個(gè)人信息，包括人們的圖像，位置，偏好和瀏覽數(shù)據(jù)。然后，Giggle可以與第三方網(wǎng)站和服務(wù)(包括面部識(shí)別提供商，聊天室提供商和營(yíng)銷商)共享該信息。它還收集敏感信息，包括人們的“性行為或性生活”，記錄以及私人健康信息。

更多的紅旗。這是他們的隱私政策，上面直接說(shuō)了他們正在收集并保留散發(fā)女孩形象的權(quán)利。pic.twitter.com/PWGhpen8eq

-內(nèi)爾(@drawnoutofshape)2020年2月6日

尚不清楚Giggle為什么需要訪問(wèn)這種細(xì)粒度的數(shù)據(jù)，因?yàn)樗哪繕?biāo)主要是將女性與潛在的室友或旅行伙伴聯(lián)系起來(lái)。但是在一個(gè)不斷擴(kuò)大的監(jiān)視時(shí)代，像Clearview AI這樣的公司在沒(méi)有人知情或未經(jīng)同意的情況下識(shí)別人臉的情況下，基于可疑生物特征篩選和廣泛數(shù)據(jù)收集的應(yīng)用程序應(yīng)引起關(guān)注。盡管Giggle的網(wǎng)站說(shuō)該應(yīng)用程序“旨在為女孩提供選擇，控制和連接的功能”，但其技術(shù)似乎恰恰相反。