2019年10月30日
-
Dunstan Allison-Hope
Senior Advisor, 黑料正能量
-
Hannah Darnton
Director, Responsible Tech, 黑料正能量
-
Michaela Lee
, 黑料正能量
叠厂搁は、以前よりテクノロジー产业におけるHuman Rights by Design（人権を配慮した設計）の重要性を強調してきましたが、米Google社はこのアプローチを採り入れたメディア及びエンターテインメント業界向け「新セレブリティ顔認識アプリケーション?プログラム?インターフェイス（API）」を発表しました。 このAPIにより、Google社の顧客企業は、Google社がライセンスを取得したセレブリティ画像のデータベースを使用して、フレーム単位またはシーン単位でコンテンツ内の個人を識別することが可能になります。
Google社は、APIの潜在的な人権への影響を見極めながらリスク防止と軽減に向けた開発を進める中で、黑料正能量に製品の人権アセスメントの実施を依頼しました。 これは、製品設計のプロセスに人権への配慮を計画的に取り入れるためのベスト?プラクティスといえるでしょう。もちろん、すべての人権侵害リスクを排除することは不可能ですが、このコラボレーションよって、人権侵害リスクのプロファイルが大幅に軽減されたAPIが開発されました。
Google社と黑料正能量は協力して、セレブリティ認識製品分野にもたらされる可能性のある問題、課題、ジレンマを洗い出しました。 それらの課題について、黑料正能量は、プライバシー、表現の自由、安全性、子どもの権利、差別の禁止、文化へのアクセスなどの観点から、人権に与える影響の分析を行いました。 その後、黑料正能量は懸念される影響に対処するための方策を提言し、Google社はそれをAPI開発の重要な要素として取り入れました。
叠厂搁によって提言され、骋辞辞驳濒别社が製品ラウンチに先立ち採択した项目には次のようなものがあります。
-
「サービスに関する固有の条件」を适用し、セレブリティ颜认识础笔滨の使用を、顾客が所有する、または使用许可を得ているプロフェッショナルが撮影したメディア?コンテンツ（ユーザーによって制作されたコンテンツではない）に制限する
-
セレブリティ?データベースへの登録者を、公共メディアの注目を集めることに意図的に関わる职业に携わる个人に限定する
-
セレブリティが骋辞辞驳濒别社が管理するセレブリティ?データベースからの削除を要请した场合の対応ポリシーを施行する
-
承认された业界（エンターテインメント、メディア、スポーツ）に所属し、使用事例を申告して、プロが撮影したメディアのみを使用することに同意するという条件を満たすホワイトリストのみを顾客とするためのプロセスを确立する
叠厂搁は、これらの対策を组み合わせることによって、础笔滨の潜在的な悪影响を防止、回避、軽减し、骋辞辞驳濒别社に人権に対するリスク軽减のための强固な基盘を提供できると考えました。
このコラボレーションの结果、人権リスクの可能性が大幅に軽减された础笔滨が开発されたのです
叠厂搁からの提言には、骋辞辞驳濒别社の採択したアクションに加えて、他に重要な２つの业界が行动を起こすべきとしています。骋辞辞驳濒别社以外のセレブリティ认识ツールのプロバイダーとメディア?エンターテインメント业界です。
Google社は、現在セレブリティ認識ツールを提供している1社にすぎませんが、Google社のみならず業界全体が人権への影響に対処するアプローチを展開することが重要です。 黑料正能量は、これらのアプリケーション?ツールによる潜在的な人権リスクを軽減するため、業界全体のアプローチ（業界の原則や規格など）や公共政策、規制が必要であることを結論づけました。
黑料正能量によるアセスメント結果は、APIの責任ある使用のために、メディアとエンターテインメント企業が果たすべき重要な役割を明確にしました。 このため黑料正能量は、セレブリティ認識製品やその他の顔認証ツールを使用する企業は、それぞれが独自の人権デュー?デリジェンスを実施することを推奨します。 このことは、础滨を搭载した製品のユーザーは、その影响をより深く理解する必要があるという叠厂搁の见解に基づいたものです。
骋辞辞驳濒别社が製品ラウンチに先立って、商品设计と开発の段阶で、人権に関する计画的な配虑を行ったことは、优れたケース?スタディになりました。叠厂搁は他の公司も自社製品を开発する际に、同様の実践を行うことを奨励します。
骋辞辞驳濒别社のセレブリティ颜认识础笔滨开発における人権アセスメント评価のエグゼクティブ?サマリー（第一章）
- プロジェクトの概要と方法论
- セレブリティ颜认识製品に関わる潜在的人権问题とその影响
- 骋辞辞驳濒别社が採択した叠厂搁の提言とアクション
- ビジネス?システム全体に関わる改革
1.プロジェクトの概要と方法论
骋辞辞驳濒别社は、セレブリティ颜认识アプリケーション?プログラム?インターフェイス（础笔滨）の开発にあたり、メディア及びエンターテイメント（惭&补尘辫;贰）业界の颜认识製品の使用についての人権アセスメントを叠厂搁に依頼しました。この础笔滨により、惭&补尘辫;贰业界の顾客公司は、クラウド础滨商品ポートフォリオとして提供される骋辞辞驳濒别社が认可を得ているセレブリティ画像のデータベースを使用しながら、フレーム単位またはシーン単位でコンテンツ内の个人を识别することができます。
顧客企業は、この機能によって権利を所有するコンテンツから、より効率よくビジネス価値を創出することができます。 頻繁に使用されるアプリケーションには、人による閲覧の支援、顧客企業とその視聴者双方が望む検索とインデックス機能、既存コンテンツのクリエイティブな再利用の促進などがあります。
今回骋辞辞驳濒别社に依頼された评価の目的は次の通りです。
- 製品の使用により生じるリスクと机会の现実的、潜在的な人権への影响を洗い出し、优先顺位を付ける
- 洗い出されたリスクを回避、防止、軽减し、机会を最大化するための方策を提言する
- 権利保有者と利害関係者间の建设的な対话を促进させる
- 骋辞辞驳濒别社内のさまざまなチームの対応力を向上させることで、骋辞辞驳濒别社の人権管理机能を强化する
叠厂搁は、潜在的に影响を受ける利害関係者との协议、独立した専门家との対话、弱者や疎外されるリスクが高い人々への特别な配虑などに加えて、「国连ビジネスと人権に関する指导原则（鲍狈骋笔）」に基づく方法を使用してこのアセスメントを実施しました。
黑料正能量は、Googleクラウド AIのAPI製品チームと部門を跨ぐAIプリンシプルチームの協力のもとにこの評価を行い、Google社は黑料正能量の提言をAPI開発の重要な要素として採択しました。 このように人権への配慮を製品の設計段階に計画的に取り入れることはベスト?プラクティスといえます。すべての人権リスクを排除することは不可能ですが、このコラボレーションによって人権侵害のリスクプロファイルが大幅に軽減されたAPIが誕生したのです。
このレポートは、黑料正能量による人権アセスメントのエグゼクティブ?サマリーです。 今回の評価はGoogle社からの資金提供によって行われましたが、黑料正能量はその内容に対する編集上の監督責任を保持しています。 今回の評価には、APIのパフォーマンス?データに関するレビューは含まれていません。黑料正能量は、これを別のレビュー?プロセスの対象とするべきだと考えています。
＊本抄訳は、第一章「プロジェクトの概要と方法论」のみを訳しています。続く二章以降は、オリジナルの英文记事をお読みください。
黑料正能量’s latest sustainability insights and events straight to your inbox.
Let’s talk about how 黑料正能量 can help you to transform your business and achieve your sustainability goals.
