概要

ローカルLLM

一般的なLLM(大規模言語モデル)サービスは、インターネット経由で接続することで各種サービスを提供しています。今回紹介する「LM Studio」はインターネットに接続しなくてもローカルのPC環境でサービスを提供する物です。従って、セキュリティを気にしているとか、自社ののノウハウなどをサービスに提示すること無くLLMを利用したい用途などに便利です。

この記事では「LM Studio」の導入の初歩として次の様な内容を記載しています。

• インストール
• テスト
• API-テスト

他のローカルLLM

「LM Studio」をテストした後に他のローカルLLMを調べました。