2024年7月 8日 09:00
July 8, 2024
Sees Co., Ltd. has commercialized and begun marketing an "AI Poisoning Prevention System".
As AI using machine learning and deep learning has been spreading rapidly in recent years, there is a risk of AI malfunction due to contamination of input data (data poisoning).
Therefore, it is essential to ensure the safety and reliability of input data, but currently there are no systems to do so.
Similarly, in the case of data input/output with AI via the cloud, it is necessary to ensure and protect the safety of input and output data.
Furthermore, there is a risk that AI products may infringe on copyrights because the generated AI has not been able to prove that the learned data does not contain copyrights or other intellectual property rights, or that it does not contain other pre-existing AI products.
In addition, there are many applications that require proof of political correctness (neutral expression that does not include prejudice or discrimination based on race, religion, gender, etc.) for AI training data and AI output data.
In response to this, Sees Co., Ltd. has devised and implemented a system to avoid this issue by utilizing blockchain.
AI Poisoning Prevention System
--------------------------------------------------------------
２０２４年７月８日
株式会社シーズは、「ＡＩポイズニング防止システム」を商品化し営業展開を開始致しました。
近年急速に機械学習や深層学習を利用したAIが世の中に普及しはじめているなか、AIへの入力データが汚染されてしまう(データポイズニング)ことでAIの機能不全につながる危険性があります。
このため入力データの安全性と信頼性を担保することは必須ですが現在ではこれらを担保するシステムは皆無です。
またクラウドを介してAIとのデータ入出力を行う場合においても、同様に入力データ及び出力データの安全性を担保かつ保護する必要があります。
さらに生成AIでは学習したデータに著作権などの知的財産権が含まれていないこと、他の既AI生成物を含んでいないことを証明することができていないため、AI生成物が著作権侵害となる危険性があります。
加えてAIへの学習データやAIからの出力データがポリティカルコレクトネス(人種・宗教・性別などの違いによる偏見・差別を含まない、中立的な表現)であることを証明することが要求される用途も多くなってきます。
これらから安全且つ最大限にAIを活用できる環境が整っていない現状があります、株式会社シーズはこの課題に対してブロックチェーンを活用して回避させるシステムを考案し実現致しました。
ＡＩポイズニング防止システム
https://sees.tokyo/jp/poisoning/