文字サイズ
標準
色の変更

研究開発された技術紹介

  1. トップ
  2. 研究開発技術検索
  3. 人工知能の安全活用を推進するガイドラインの策定

情報処理

人工知能の安全活用を推進するガイドラインの策定

愛知県

株式会社ヴィッツ

2021年2月22日更新

プロジェクトの基本情報

プロジェクト名 自律的自動運転の実現を支える人工知能搭載システムの安全性立証技術の研究開発
基盤技術分野 情報処理
対象となる産業分野 自動車、ロボット、産業機械、情報通信、スマート家電、工作機械、物流・流通
産業分野でのニーズ対応 高機能化(新たな機能の付与・追加)、高性能化(既存機能の性能向上)、高性能化(信頼性・安全性向上)、低コスト化
キーワード 人工知能、安全、自動運転、信頼性、組込み
事業化状況 事業化に成功
事業実施年度 平成29年度~令和1年度

プロジェクトの詳細

事業概要

人類の際限のない要求にともない、組込みシステムに人工知能を搭載した自律的制御機器が台頭することが予見される。人工知能は本質的に学習により知識を発達させ、その論理を人間は理解できない。そのため従来の機能要求を満たすという評価方法では安全性を立証できない。本研究では、人工知能を活用するための安全ガイドライン、安全分析手法、安全対策を実現し、人工知能搭載システムの安全性立証技術を確立する。

開発した技術のポイント

・人工知能搭載システムを安全に活用するための対応
-MaaSシステムを対象とした安全分析プロセスの内、STAMP/STPAを用いたハザード分析とハザードシナリオの導出
-さまざまなステークホルダーに対して複雑なシステムをより伝えやすくするための手法として、俯瞰図、イラスト、3Dシミュレータを用いる考え方を示した。
・人工知能搭載システムの潜在リスクへの対応
-限定区域内の自動運転レベル4システムを想定し、安全コンセプト文書を作成。認証機関の技術レビューを受けた。
-網羅的なハザード分析やリスクアセスメントに関する実施方法や観点、安全説明力の高いプロセスの知見を整理
・人工知能搭載システムの開発コスト対応
-Trust AI Shieldの設計及び実装の完了

具体的な成果

・人工知能搭載システムを安全に活用するための対応
-MaaSシステムに対する安全分析の結果を元にした安全性を担保する考え方の明確化
-複雑なシステムをステークホルダーに説明する具体的な説明手法の考え方を明確化
・人工知能搭載システムの潜在リスクへの対応
-人工知能搭載システムの安全設計に対する取り組みの方向性が正しいことの確認。
-国際規格などが整理されていない範囲でのガイドラインの充実と、高い関心、評価の取得。
・人工知能搭載システムの開発コスト対応
-AIを安全に活用するための対策を正常に運用、動作することを示した。

知財出願や広報活動等の状況

・現時点は出願済み特許はないが、今後出願予定
・AI プロダクト品質保証コンソーシアム(QA4AI)や人工知能に関する標準化委員会である ISO/IEC JTC1 SC42 と連携し、セミナーによる技術紹介を実施

研究開発成果の利用シーン

人工知能搭載システムを活用するためのガイドラインや安全性立証技術を確立することで、国内自動車メーカー各社が国際競争力の向上を実現する。
また自動車だけでなく、他の制御機器にも適用できるため、人類に有益な生活支援を行うシステムが開発される。

実用化・事業化の状況

事業化状況の詳細

・人工知能搭載システムの安全性立証技術に伴う知財提供、いわゆるコンサルテーション事業
・人工知能搭載システムの安全対策を実現する安全機能ソフトウェア部品の販売
この2事業に関して、速やかに進めていく。

提携可能な製品・サービス内容

技術コンサルティング

製品・サービスのPRポイント

・現行業界で活用がすすむISO26262との融合を実現している
・人工知能搭載システムの安全性立証の道筋をつけた

今後の実用化・事業化の見通し

・人工知能搭載システムの安全性立証技術に伴う知財提供、いわゆるコンサルテーション事業
令和2年度に2件、それ以降は令和6年度に30件程度の販売を見込む。
・人工知能搭載システムの安全対策を実現する安全機能ソフトウェア部品の販売
令和2年度に10本、令和6年度に20本の販売を見込む。

いずれも、令和6年に各自動車メーカーが自動運転レベル4を実現することを計画しているため、販売の増加が見込まれる。

実用化・事業化にあたっての課題

・国際認証機関との技術ディスカッション
・コンサルテーション提供による知識の集積

事業化に向けた提携や連携の希望

SEAMSガイドラインのさらなる拡販のためにビジネスマッチングなどを活用した裾野の拡大が必要

プロジェクトの実施体制

主たる研究等実施機関 株式会社ヴィッツ
事業管理機関 株式会社ヴィッツ
国立大学法人名古屋大学
研究等実施機関 国立大学法人名古屋大学
株式会社アトリエ
アーク・システム・ソリューションズ株式会社
三菱電機株式会社
アイシン精機株式会社
ヤマハ発動機株式会社
独立行政法人情報処理推進機構

主たる研究等実施機関 企業情報

企業名 株式会社ヴィッツ(法人番号:9180001045035)
事業内容 ソフトウェア開発
社員数 151 名
本社所在地 〒460-0008 愛知県名古屋市中区栄二丁目13番1号
ホームページ https://www.witz-inc.co.jp/
連絡先窓口 株式会社ヴィッツ 取締役 大西秀一
メールアドレス ohnishi@witz-inc.co.jp
電話番号 052-220-1218