動作テスト

AI チャット画面に移動して何か質問してみます。 
 今回は単純に「テスト」と入力して「チャット」ボタンを押します。 
 
 エラーが表示されました。 
 
 「 OK 」ボタンで確認すると、新しいレコードに AI サービスの結果が保存されます。 
 
 [LLM] error. Reason: HTTP response code said error: 502 
 スクリプトの問題では無く Server の AIサービス側 に問題が有り応答出来ないようです。 
 色々と調べたりテストした結果、現在のモデル「 google/codegemma-7b-it 」では、現在の環境である Mac mini 24GB では、メモリ不足で正しく動作しないようです。 
 24GB の RAM で動作するためにもっと軽量をダウンロードしてロードします。 
 mlx-community/codegemma-7b-it-8bit 
 
 AI チャットの AI サービス接続情報のモデル名を修正します。 
 mlx-community/codegemma-7b-it-8bit 
 
 再度テストを実行します。 
 
 応答が正常に戻りました。 
 
 新しい問い合わせをしてみました。 
 返答までの時間が 50 秒以上もかかっています。おそらく FileMaker Server の AI サービスの環境をアップグレードすると良くなるのでしょう。 
 もう一つ、返答が「マークダウン（ Markdown ）」形式で行われています。 
 
 スクリブトを修正して、以下の指示を追加して回答をプレーンテキストにします。 
 AI チャットスクリブとの内容に変数「 $ 指示」を追加し「モデルから応答を生成」に「指示」に $ 指示を与えます。 
 " 回答はプレーンテキストのみとする。 見出し（ # ）、箇条書き（ - や * ）、太字（ ** ）、コードブロック（ ``` ）、リンク記法は使わない。 前置き・挨拶・「以下に～」などの説明文も不要。 本文だけを日本語の通常の文章で返す。 " 
 
 実行結果 
 完全に修正することは出来ませんでしたが、結果から「マークダウン（ Markdown ）」内容が少し緩和された内容で返答が出来ました。 
 
 以上で、 FileMaker Server の AI サービス ( ローカル LLM) をテストしてみました。