Is this violence? Am I too sexy?

Game that questions what is violence and sexiness for Google's algorithm



Who looks violent for Google?

"Is this violence? Am I too sexy?" is a game that challenges AI's perception of violence and sensuality. Participants engage in front of a live webcam, transmitting images in real-time to Google Cloud Vision. The system then evaluates the imagery for potential instances of violence or sensuality. The challenge for participants is to heighten their score without resorting to overt violence or nudity. This game questions the nature of inherently biased machine-led decision-making and its ability to quantify inherently subjective concepts. Intriguingly, the scoring methodology uses the same system of Google's safe search filters, hinting at the broader societal implications—where a high score might inadvertently lead to digital censorship.

「これは暴力?私はセクシーすぎ?」は、AIに暴力やセクシーさを認識するように騙すゲームです。このゲームは、主観的な概念を定量化するAIのあり方を遊びを通して問います。プレイヤーがウェブカメラの前で演じると、その画像はリアルタイムでGoogle Cloud Visionに送信され、画像内の暴力やセクシーさの可能性をスコアとして返します。プレイヤーの目標は、実際の暴力を行なったり、または裸にならずにこのスコアを最大化することです。このスコアリングメカニズムはGoogle画像検索のセーフサーチフィルタとして使用されているため、高得点が間接的にデジタルな検閲につながる可能性があることを示唆しています。


Role : Research, design, development