2023年06月13日(火)
ローカルでAIの実験やモデル推論ホスティングを行う為のデスクトップアプリ・「local.ai」
local.ai
local.aiはローカルでAIの実験やモデル推論ホスティングを行う為のデスクトップアプリです。OpenSeaの前CTOのAlex Atallah氏が開発中のwindow.aiと一緒に使用する事でローカル推論サーバーを立ち上げる事が出来るのだそう。これによって、GPU不要で余計なコストを負担する事なく任意のLLMを使って新しいデータに対して予測を行うAI推論や各LLMの管理、AIの実験等をより効率的に行えるようになります。
local.aiはRustバックエンドを採用しており、メモリ効率がよくコンパクトになっているそうです。本アプリはOSSとしてソースコードが公開されており、Windows、MacOS、Linuxの各OSにも対応しています。ライセンスはGPL-3.0との事。
local.ai
0
0
0
3
author:
かちびと.net
WordPressやJQueryなどを中心に、Web開発者のためのチュートリアルやコードスニペットの記事を公開しているTakahashi Yoheiさんのブログ
‹ PREV
UIのフォントサイズ、マージン、コンポーネントで黄金比や白銀比によるバリエーションを簡単に作成できるツール -Proportio
NEXT ›
【事例で解説】サービスの魅力を読者向けに「翻訳」する。売れるストーリーを描ける記事広告
Ads
WordPressやJQueryなどを中心に、Web開発者のためのチュートリアルやコードスニペットの記事を公開しているTakahashi Yoheiさんのブログかちびと.netの記事『ローカルでAIの実験やモデル推論ホスティングを行う為のデスクトップアプリ・「local.ai」』についてまとめています。
この記事は特にUX・twitter・Mac・サーバ・Windows・アプリについて書かれており、 気になるWebデザインの記事やまとめを見つけたら「本文を読む」をクリックすると、記事配信元のかちびと.netで全文を閲覧することができます。RSS Sourceの「このサイトの記事一覧」をクリックするとかちびと.netの記事をまとめて表示することができます。また閲覧数や各SNSのシェア状況を目安に、他の人たちが記事をどのように評価しているのか推測することができます。Webデザインにとって有益な記事をまとめていますので、ぜひリンク先をチェックしてみてください。
Ads
