概要

ローカルLLM

一般的なLLM(大規模言語モデル)サービスは、インターネット経由で接続することで各種サービスを提供しています。今回紹介する「LM Studio」はインターネットに接続しなくてもローカルのPC環境でサービスを提供する物です。従って、セキュリティを気にしているとか、自社ののノウハウなどをサービスに提示すること無くLLMを利用したい用途などに便利です。

この記事では「LM Studio」の導入の初歩として次の様な内容を記載しています。

• インストール
• テスト
• API-テスト

ライセンス体系

「LM Studio」を使用する上での気になるライセンスはどうなっているのか?

最新のライセンスは「LM Studio」のサイト(https://lmstudio.ai/blog/free-for-work)をご確認ください。ここでは、簡単に説明します。

無料	個人・企業	当初は個人は無料でしたが企業も無料に変更されている。
有料(問い合わせ)	企業	TeamsとEnterpriseが有るようだが、詳しくは不明である。

運用コスト

 

他のローカルLLM

「LM Studio」をテストした後に他のローカルLLMを調べました。