2024.11.20 10:00
豆知識【記者のひとこと】推論における課題を解決
米NVIDIA(エヌビディア)は、開発者向けに、AI活用における「推論(Inference)」フェーズの課題を解決するマイクロサービス技術「NIM(ニム)」を展開しています。
NIMでは、推論に必要なAIモデルとソフトウェアをまとめてパッケージ化し、マイクロサービスとして用意しています。これにより、推論のためのソフトウェアの開発や運用の負担を減らすことができるそうです。
今年8月からは、日本語で利用できるAIモデルも提供しています。日本語対応のモデルを含め、NIMのAIモデルはWeb上から試すことができます。日本語対応モデルを試したところ、きちんと日本の法律などに沿った回答が返ってきました。興味のある人はまず体験してみてはいかがでしょうか。(大向琴音)
【記事はこちら】
米NVIDIA、AI推論の課題を解決する技術を国内展開 本番環境での活用を支援する「NIM」を提供
NIMでは、推論に必要なAIモデルとソフトウェアをまとめてパッケージ化し、マイクロサービスとして用意しています。これにより、推論のためのソフトウェアの開発や運用の負担を減らすことができるそうです。
今年8月からは、日本語で利用できるAIモデルも提供しています。日本語対応のモデルを含め、NIMのAIモデルはWeb上から試すことができます。日本語対応モデルを試したところ、きちんと日本の法律などに沿った回答が返ってきました。興味のある人はまず体験してみてはいかがでしょうか。(大向琴音)
【記事はこちら】
米NVIDIA、AI推論の課題を解決する技術を国内展開 本番環境での活用を支援する「NIM」を提供
外部リンク
RECOMMEND おすすめの記事
くらしを彩る
エアコンの電気代が高すぎる!今日からできる冷房・暖房の節電術。電気代高騰に負けない賢い使い方のコツ
売れてるもの
骨伝導イヤホン 調べたら6月の販売数No.1は意外なメーカーの製品だった!【BCNランキング】
家電とIT
スマホを置いたら自動で冷却 イヤホンも充電できる冷却クーラー サンワサプライから登場
PR
EcoFlowのポータブル電源+ポータブルエアコンでアウトドアの楽しさ爆上がり! 特別クーポンでEcoFlow製品をお得に購入しよう
くらしを彩る
家電の電気代を一覧でチェック 冷蔵庫・洗濯機・エアコンなどのコストを徹底比較
売れてるもの
値下げ効果でソニー「WF-1000XM6」が浮上、26年6月に売れた完全ワイヤレスイヤホンTOP10