"How (not) to get hit by a self-driving car" is a game installation that challenges people to cross a virtual street undetected by an AI-powered self-driving car simulation. Players, each marked with a pedestrian detection score determined by the algorithm, must cleverly disguise themselves to reduce their score and avoid detection. Successful evasion exposes both the system's blindspots and inability to recognise diverse individuals, like children or wheelchair users, highlighting the risks posed by these flawed algorithms in real-world scenarios. Each victory generates edge case data showcasing the AI's biases and flaws. Upon winning, players can choose to contribute the data to improve the model or delete it, raising questions about the trade-offs in developing these technologies. The project addresses geographical bias in AI data collection by organising global exhibitions to engage a wider range of demographics.
‍
「自動運転車とぶつかる/ぶつからない方法」は、AIに「歩行者」と検知されないように横断歩道を渡り切る、路上を舞台にしたゲームです。このゲームに勝つためには、AIの目を巧みに騙し、歩行者と検知されることなくゴールに辿り着く独特な方法を見つけ出す必要があります。うまく検知を避ける人が増えれば増えるほど、子供や車椅子の利用者などをうまく認識することができないAIの欠陥が浮き彫りになっていきます。これは、現実世界でこうした不完全なAIが使われた場合の危険性を示唆しています。ゲームをクリアするたびに、AIの欠陥を示すエッジケースのデータが生成されます。勝利したプレイヤーは、このデータをAIの改善に役立てるか、それとも自身のプライバシーのために削除するかを選ぶことができます。このプロジェクトは世界中で展示会を開催し、様々な地域の人々の参加を促すことで、AIのデータ収集における地域的な偏りの問題にも取り組んでいます。