2024年06月8日(土)
WebGPUを使ってオープンソース等の任意のLLMをブラウザでローカル実行出来るようにするOSS・「Chatty」
Chatty
ChattyはWebGPUを使ってオープンソース等の任意のLLMをブラウザでローカル実行出来るようにするOSSです。2023年5月リリースのChrome 113で、WebGPU APIがデフォルトで利用できるようunlockされた事が公式のブログでアナウンスされました。そのWebGPUを使って、任意のOSS LLMを指定してプロンプトを送信すると、LLMがダウンロードされ、そのLLMを使ってブラウザでAIチャットが出来るようになる、というもの。オフラインで利用できるので完全プライベートなAIチャットをブラウザで可能になります。AIチャットのUIはChatGPTやGeminiといったよくあるAIチャットと同等のUIで履歴も残り、JSONなどでエクスポートも可能となっています。
また、ローカル環境のテ...
0
1
0
1
author:
かちびと.net
WordPressやJQueryなどを中心に、Web開発者のためのチュートリアルやコードスニペットの記事を公開しているTakahashi Yoheiさんのブログ
‹ PREV
画面共有や仮想背景、E2E暗号化も対応のFlutterベースで作られたオープンソースのグループビデオ会議アプリ・「Waterbus」
NEXT ›
SvelteをベースとしたオープンソースのSaaS向けboilerplate・「Just Ship」
Ads
WordPressやJQueryなどを中心に、Web開発者のためのチュートリアルやコードスニペットの記事を公開しているTakahashi Yoheiさんのブログかちびと.netの記事『WebGPUを使ってオープンソース等の任意のLLMをブラウザでローカル実行出来るようにするOSS・「Chatty」』についてまとめています。
この記事は特にダウンロード・Chromeについて書かれており、 気になるWebデザインの記事やまとめを見つけたら「本文を読む」をクリックすると、記事配信元のかちびと.netで全文を閲覧することができます。RSS Sourceの「このサイトの記事一覧」をクリックするとかちびと.netの記事をまとめて表示することができます。また閲覧数や各SNSのシェア状況を目安に、他の人たちが記事をどのように評価しているのか推測することができます。Webデザインにとって有益な記事をまとめていますので、ぜひリンク先をチェックしてみてください。
