みんなが使っているのに使ってはいけない写真編集アプリ「Lensa」とは？

これは、人の顔からデジタルアート作品を生成するもので、素晴らしい機能ですが、プライバシーに大きな問題があります。そしてまた、性差別

ソーシャルネットワーク上では、2022年の締めくくりとして、ティム・バートンがアダムス・ファミリーの少女に捧げた美しいシリーズ「水曜日」（特に彼女のバレエに酔いしれる）の投稿と、レンサ治療後に自分の顔がどうなったかを示す人々のスライドショーという2つの方法がとられています。この2つのコンテンツの流れのどちらかから逃れることは不可能なようです。ここではもちろん、Lensaのことです。

簡単に言うと、Faceappや画像から顔を若返らせるソフトがやっている（やっていた）ことを多かれ少なかれやってくれるアプリで、冗談で使ってみて、どんな効果があるのかを確認するものの一つです。Lensaは、それらのアプリと同じ問題を抱えていますが、なぜかもっと大きく、もっと深刻で、ずっとよく動くからです。

Lensaでできること
Lensaは、最近新しいといっても、それほど新しいものではありません。2018年から登場していますが、話題になったのは12月からで、アメリカのiOS App Storeの写真・ビデオ部門で1位になり、YouTubeやInstagram（現時点では3位と4位にダウン）なども入っているくらいです。11月末に開発者が「マジックアバター」機能を導入したからだ。

インストール後、Lensaは10〜20枚の個人写真（できればアップか横顔）をアップロードしてもらい、Stable Diffusionの人工知能アルゴリズム（何それ？）で加工し、デジタルアーティストが描いたようなその人のアバターを作成する。ところで、生身のデジタル・アーティストが非常に怒っているんです。

最初に開くと、AIを使った編集ツールを使うための7日間の無料トライアルを有効にするようポップアップが表示され、時間内にキャンセルしないと、年間39.99米ドル（イタリアでは29.99ユーロ）の支払いにつながるのです。しかし、無料版アプリは非常に限定的で、マジックアバター機能は有料で、有効な場合とそうでない場合があります。

プライバシーの問題
しかし、レンザにとってコストの問題は一番大きな問題ではない。重要なのは、受け取った画像をアプリが利用する点です。実在の人物の顔を写した画像は、人の顔で何でもできるディープフェイク（何それ？

開発者によると、写真はAmazon Web Servicesのサーバーで処理され、ユーザーが共有した画像は「24時間以内に削除される」、少なくとも処理が完了した時点で削除されるとのことです。しかし、それはあくまでも、ソフトウェアがアバターを生成するための元となる画像を指しているに過ぎないのです。それ以外の、人工的に作られたもので、とにかく明らかに人物がわかるものは、アプリでしか見ることができません。利用規約のセクションに明記されているように、「お客様は、当社に対し、お客様に対する追加報酬なしに、お客様のユーザーコンテンツを使用、複製、修正、翻案、翻訳、派生物の作成および譲渡するための、永続的、取消可能、非独占的、ロイヤリティフリー、全世界的、全額支払済み、譲渡可能、サブライセンス可能なライセンスを許諾します」。イタリア語では、「お客様は、当社に対し、お客様のユーザーコンテンツを使用、複製、修正、翻案、翻訳、譲渡、派生作品の作成、および転送するための永久的、取消可能、非独占的、ロイヤリティフリー、全世界的、全額支払済、譲渡可能、サブライセンス可能なライセンスを、お客様への追加報酬なしに許諾する」ことを意味しています。

レンサの人たちは私たちの顔をどうするんだろう？例えば、このアプリや今後出てくる他のアプリの宣伝に加工を使うことができるのです。そうすれば、知らず知らずのうちに、Google Play Storeに表示されている自分自身を発見することができるのです。きっと、それを使って人工知能をさらに鍛え、将来のソフトウェアがさらに効果を発揮するようにし、さらに多くの人に使ってもらい、その効果を実感してもらうことで、この仕組みを実質的に無限に持続させる顔を増やしていくのでしょう。

違法性、ヌード、性差別：その他の問題
これは、Lensaで人々が共有する写真で起こることの予測可能で高い確率の部分であり、次に、想像可能な部分だけである。しかし、その可能性は低くはない。

例えば、レンサが使っているAIと逆のことをするようにAIを学習させ、写真を元の姿に戻すことで、文書の偽造に使われるかもしれない、という違法な使い方も考えなければならないだろう。あるいは、無防備なLensaユーザーが知らず知らずのうちに主人公になってしまうような、ポルノ的な性質のコラージュ、アニメーション、GIF、ビデオ（多かれ少なかれ短いもの）を作成することです。ハリウッド俳優にはすでに起こっていること。

この後者のリスクは、特に、このアプリが人の服を脱がせることをいとわないように見えることで、増大するように思われます。何より女性。TechCrunchの同僚は、非常に信頼性の高い正面からのヌード画像を簡単に作成できることを実証し、Twitterでは、「あなたが女性なら、提供されるアバターセットの中には、あなたが半裸のものもたくさんある」と指摘する声が多く聞かれました。また、男性で登録した後に女性で登録しようとする人もいて、後者の方が性的なイメージの割合が高いことに注目した。

これらの理由から、Lensaは軽々しく使ってはいけないのです。少なくとも、それがもたらす効果を見ようとしない。『どうせ大したことはないだろう？