弊社は、富山県立大学および砺波高校・高岡商業高校・魚津工業高校と連携し、AIの実証研究を実施しています。
生徒がAIに話題を投げかけ、その話題に対するAIからの返答を一往復ごとに評価する実証研究です。

対話AIは、普段は自然にやり取りできる一方、まれに不適切な返答や行き過ぎた親密さといった”ほころび”が生じることがあり、それが未成年に与える影響はまだ十分に検証されていません。
そこで本研究では、生徒は利用者であると同時にAIを調べる・評価する側に回り、返答への評価と安全機能の作動記録を突き合わせて、未成年が使う対話AIに求められる安全性と会話の自然さの両立を検証します。
会話の本文を研究用サーバーに保存しない設計や、深刻な言葉を検知した際にAIではなく人の相談窓口へつなぐ仕組みなど、安全を最優先した構成です。

弊社はこの研究において、対話AIシステムの設計・実装と、大学が契約するクラウド上にある研究用サーバーの運用保守を担当しています。
実験期間中も、第三者が再実行できる自動検査と大学の安全レビューのもとで、改良を続けています。
本研究で得られる「人とAIの対話を安全に保つ」知見を、現場の安全教育や地域の人材育成に活かすことを目指し、産高大連携による先端技術の研究に継続的に取り組んでまいります。

研究に関する問い合わせはホームページの問い合わせフォーム、
またはDX事業部 山本（research@o-taka.co.jp）までご連絡ください。

研究の詳細はこちらをご覧ください