動画サイトやSNSなどにおける問題のある投稿やコメントの検出、削除、アカウント停止などには自動化処理が用いられている。それを悪用した嫌がらせというのがあって、実際には問題性のない投稿に対して大量の報告をすることなどで、標的にしたアカウントの投稿を削除させたり、公開停止にさせたり、アカウント停止にさせたりする。
何が問題なのか全く理解出来ない処分を受けた、という話は少なくない。ツイッターやインスタグラム、Tiktok、Youtube、大抵の大手サイトに関してその種の話がある。
本来は、寄せられた報告が適切かどうかを見極めた上で、適切な処分、もしくは不処分が決まるはずなのだが、全てを人が判断しているわけではなく、アルゴリズムや機械学習、AIなどによる自動化処理が用いられていて、それらの不具合が理解できない処分を下してしまう、という話をよく耳にする。だが自分の体験では、その段階を超えた人による判断の段階でも、恣意的としか思えない対応を受けたことがあり、自動化処理だけでなく人的な対応にも問題を抱えている、もしくは人的対応に主な問題があるのにも関わらず、自動化処理の所為にしているのが実状なのではないかと考える。
ツイッターのアルゴリズム、右寄り政治投稿を増幅＝自社研究 - BBCニュース
これは、ツイッターのアルゴリズムは、政治的に右よりな投稿を増幅する傾向にある、という研究結果に関するBBCの記事だ。5月には、ツイッターに投稿された画像を、タイムラインに表示する際に自動でトリミングするシステムが、黒人よりも白人を、男性よりも女性を優先的に表示する傾向にある、とも報じられている。
AIは人間を超える適切な判断を下すことが可能、のように思っている人も多そうだが、AIを作り出すのは不完全な存在である人間であり、その人間の思考に沿って作り出されたAIは完全な存在になれるだろうか。また、適切な判断というのは状況や時代によって変化する。全ての変化に絶対的に対応する、対応できる、なんてことはありえるだろうか。そんなことはありえないだろう。端的に言って、常に完全なAIもシステムもありえない。
・システムが完璧なら保守なんかいらないはずだ
— 米村歩@日本一残業の少ないIT企業社長 (@yonemura2006) October 12, 2021
・システムが完璧なら監視なんかいらないはずだ
・システムが完璧ならセキュリティアップデートなんかいらないはずだ
・だから最初から完璧なシステムを作れ
・1件でも問題が出たら絶対に許さない
これ全部言われた時は怖くて泣きそうになっちゃった。
このツイートを見て思った。時間が止まった世界でないとそんなのは無理だと。システムを取り巻く環境は常に変化するし、システムを支えるハードは経年劣化する。だからやはりソフト的にもハード的にも常に完全なシステムなどあり得ない。
それは、自動車のある社会が始まってからおよそ100年が経過しても、交通事故を減らすことは出来てもゼロには出来ていない現実や、完全自動運転システム実用化の難しさが物語っている。もし実用化可能な完全自動運転プログラムが完成したとしても、それが走らせる自動車、つまりハードは常に劣化する。ソフトがもし完全だったとしてもハードの経年劣化は止められない。ハードが走行に適さない程劣化したことをソフトで感知することは可能かもしれないが、メンテナンス、つまり保守は間違いなく必要だ。メンテナンス/保守/管理をしなければ、車は走らなくなるだろうし、最悪事故を起こすだろう。
人間がもう一切進化も変化もしないなら、完全な自動運転プログラムは可能かもしれないが、人間は間違いなく今後も常に変化し、道路交通状況を取り巻く環境も変化していくのだから、そのプログラムも常にアップデートを行って対応してく必要がある。つまり、完成後一切何も手を加えずにずっと使える万能な自動運転システム、なんてありえない。
政治の世界などからしばしば、法令に反していないので何も問題はない、という主張が聞こえてくる。これは一見話の筋が通っているようで、実際は詭弁の類だ。
確かに法治の社会では、法律違反を犯していなければ罪に問われることはない。概ね責任を追求されることもない。しかし、法律もシステムの一種であって、不完全な存在の人間によって作り出されるシステムであり、法は常に完全な存在ではない。それどころか常に不完全な存在だ。法が常に完全な万能の存在なのであれば、一度作った法を改正する必要もなければ、新たな法を作る必要もないはずだ。しかし実際は、毎年立法会議、つまり国会が開かれ、毎年数十の法案が検討され成立する。これこそが法が常に完全でない証拠であり、だから、法令に反していないので何も問題はない、とは言えない、ということになる。
1台のカメラがいかにして「プライバシー権」を形作ったのか？ - GIGAZINE
これは、19世紀後半にカメラが市販化された結果、それまで存在していなかったプライバシー権の概念が生じた経緯に関する記事だ。カメラが市販化された当初は、被写体になった者を許可なく写真を使用すること、を禁じる法律はなく、それによって生じたいくつかの問題への対処として、プライバシー権や肖像権などが生じ、更にはプライバシー権が人工妊娠中絶合法化にも繋がっていった。
この件だけを見ても、法令に反していないので何も問題はない、という主張が如何に説得力の低いものかがよく分かる。法に反していなくても問題のあることは決して少なくない。
法的に問題ない、は、法的に問題はないことだけしか示さない。法的に問題はなくても道義的な問題がないとは限らない。法的に問題はない、という主張がなされるケースの多くは道義的な問題を孕んでいる。道義的問題を問われているのに、法的に問題はない、と論点をずらす主張も少なくない。しかも、法の精神を無視したかなり強引な字面の解釈によってそれが為されることも少なくない。
法律も常に万能・完全ではないのだから、法令に反していないので何も問題はない、という主張、そう明言せずにそれを強く匂わせる演出などには決して騙されてはいけない。
トップ画像には、誰も完璧ではありません 動機 オーバーヘッド ・ プロジェクター - Pixabayの無料写真 を使用した。