この課題に対する解決策を提示したのが、東京理科大学の河原尊之氏と藤原優哉氏だ。両氏はIoTエッジデバイスの計算処理における課題を解決するため、「三値勾配二値化ニューラルネットワーク」（TGBNN：Ternary Gradients Binarized Neural Network）を開発した。

　ニューラルネットワークは、人の脳の神経細胞をモデル化した情報処理システムだ。層に別れており、各層には処理ユニットである「ノード」が存在する。ニューラルネットワークの例としては、重み（ニューラルネットワークの接続強度を表す値）と活性化値（ノードの出力値）を-1と1の2値で表す「BNN」（Binarised Neural Network）や、人の脳の働きを模倣した「ANN」（Artificial Neural Network）などがある。

　ANNはAI分野の重要技術の一つだが、大量の計算資源を必要とする点が課題だ。一方でBNNは情報の最小単位を1ビットにすることで、ネットワークに必要な計算資源を最小限に抑えることができる。

　ただしBNNにも弱点がある。推論時は重みと活性化値を1ビットで格納できるが、学習時の重みと勾配（ネットワークの重みをどう調整すべきかを示す指標）は実数で格納する必要があり、計算の大部分も実数計算となる点だ。そのため、「IoTエッジデバイスにBNNが学習できる仕組みを持たせることは困難だった」と研究チームは説明している。

　そこで研究チームは、従来のBNNの改良版としてTGBNNを開発した。研究チームによると、TGBNNは88%以上の推定精度を達成するとともに、同じ構造の通常のBNNと同等の精度を維持しながら、学習時の収束も高速化した。

　TGBNNには、以下に示す3つの革新的な特徴がある。

1. 重みと活性化値を2値に保ちつつ、学習時に3値（-1、0、1）の勾配を使用する点
2. 効率的な学習を実現する手法「STE」（Straight Through Estimator）を改良して用いている点
3. 不揮発性メモリの一種である「磁気ランダムアクセスメモリ」（MRAM）セルの動作特性を活用して、確率的にパラメータを更新する手法を採用している点

　この革新の中核となるのは、MRAMセルを採用した、メモリ内演算（CiM：Computing-in-Memory）アーキテクチャだ。これは回路スペースと電力を節約するために、専用プロセッサではなくメモリ内で計算する設計手法だ。この設計手法によって、回路サイズと消費電力を大幅に削減できるという。資源に制約のあるIoTエッジデバイスで、効率的にAIモデルを稼働させる上での有望な選択肢を示した形だ。

　CiMアーキテクチャに基づいてTGBNNを実装するために、研究チームは新型の論理回路を開発した。この論理回路はMRAMセルの配列を基本構成要素としており、磁気トンネル接合（磁気の向きでデータを記録する素子）を使用して、磁化状態で情報を格納する。

　「われわれが提唱したシステム設計によって、学習能力やリアルタイムの状況変化に適応する能力を備えた効率的なBNNを、IoTエッジデバイスに実装できるようになった」と研究チームは主張する。これはAI技術を高度に活用できる高性能なIoTデバイス実現への道を開くものだ。例えばエンドユーザーの健康状態をモニタリングするウェアラブルデバイスの高性能化だ。インターネット接続を必要とせず、優れたバッテリー性能ながらも小型で、信頼性の高い動作が可能なものに進化させることが可能になる。スマートハウスも、複雑なタスクを素早く実行できるようになる見込みがある。

　本研究の詳細は、学術誌『IEEE Access』に掲載の論文「TGBNN: Training Algorithm of Binarized Neural Network with Ternary Gradients for MRAM-based Computing-in-Memory Architecture」で説明されている。