動作テスト

AIチャット画面に移動して何か質問してみます。

今回は単純に「テスト」と入力して「チャット」ボタンを押します。

エラーが表示されました。

「OK」ボタンで確認すると、新しいレコードにAIサービスの結果が保存されます。

[LLM] error. Reason: HTTP response code said error: 502

スクリプトの問題では無くServerのAIサービス側に問題が有り応答出来ないようです。

色々と調べたりテストした結果、現在のモデル「google/codegemma-7b-it」では、現在の環境であるMac mini 24GBでは、メモリ不足で正しく動作しないようです。

24GBのRAMで動作するためにもっと軽量をダウンロードしてロードします。

mlx-community/codegemma-7b-it-8bit

AIチャットのAIサービス接続情報のモデル名を修正します。

mlx-community/codegemma-7b-it-8bit

再度テストを実行します。

応答が正常に戻りました。

新しい問い合わせをしてみました。

返答までの時間が50秒以上もかかっています。おそらくFileMaker ServerのAIサービスの環境をアップグレードすると良くなるのでしょう。

もう一つ、返答が「マークダウン（Markdown）」形式で行われています。

スクリブトを修正して、以下の指示を追加して回答をプレーンテキストにします。

AIチャットスクリブとの内容に変数「$指示」を追加し「モデルから応答を生成」に「指示」に$指示を与えます。

"回答はプレーンテキストのみとする。
見出し（#）、箇条書き（- や *）、太字（**）、コードブロック（```）、リンク記法は使わない。
前置き・挨拶・「以下に～」などの説明文も不要。
本文だけを日本語の通常の文章で返す。"

実行結果

完全に修正することは出来ませんでしたが、結果から「マークダウン（Markdown）」内容が少し緩和された内容で返答が出来ました。

以上で、FileMaker ServerのAIサービス(ローカルLLM)をテストしてみました。