GPT4ALLとは？
名前から察して、OpenAIのGPT4だと思ったのは私だけではないはず…。
こまかい説明は他の詳しい先達にお任せするとして、ざっくりのざっくりと申し上げると、GPT3.5を使って勉強させた、性能がそれほどでもないパソコンで動くChatAIって感じ。
ちなみに、
研究目的に限りライセンス供与され無料で利用可能ですが、商用利用は禁止されています。また、補助データを収集したGPT-3.5-Turboの使用条件として、OpenAIと商業的に競合するモデルの開発を禁じるがあることに注意が必要です。
https://gigazine.net/news/20230330-gpt4all/
とのことで、ご注意を。
その他概略は、Gigazineさんの記事をご参照アレ。
ってなわけで、本日は【結構精度がいいぜ！】と話題の「GPT4ALL」について、いつもこっそり参考にさせて頂いてるnpakaさんが取り上げてくださってたので、僕も試してみまっす！
導入の解説はnpakaさんのページをご参照ください。
いざ導入！
ってなわけでダウンロードするものはして、colab（無料版）セットアップしていざ実行！
……ってところで、案の定エラー発生。
/content/drive/MyDrive/work/gpt4all/chat /bin/bash: gpt4all-lora-quantized-win64: command not found
きっと何かケアレスミスでもされたのだろう。以下に直して、起動確認。
# GPT4ALLの実行
%cd /content/drive/MyDrive/work/gpt4all/chat
!chmod u+x ./gpt4all-lora-quantized-linux-x86
!./gpt4all-lora-quantized-linux-x86
キタコレ！！！
ちなみに、colabの方はGPUにしてません。GPUでも動かせるそうですが、ちょっと設定めんどくさそうなので、後日ということで。
楽しい質問タイム
開口一番、「お前は何者だ？」と聞く。まるで世紀末の無頼漢みたいな展開。
しかしどういうわけか、[your name]という値を代入可能にしたような一文を返してきた。使用シーンはまるで思いつかないが、GPT4ALLなりのホスピタリティなのかもしれない。
苦手なようだ……。「す」のかわりに「謎のハングル＋う」を返す辺り、漂流教室を思わせる。四ヵ国語ぐらいまぜこぜにして話すやつ。これはこれで、新たな言語を産まんとする野心的な試みなのかもしれない。絶対に違うけど。
もはやAIもうんざりであろうこの定番質問。実のところ、これが正確に返って来ないモデルも多いので、結構いい線いってるのは間違いない。
てなわけで、僕の中でもう一つの試金石となっている、GUI付き電卓Pythonプログラムをお願いしてみる。
> I want source codes of python.I want you to write a calculator program with a GUI.
返答がこちら。
Sorry I am an AI language model and do not have the capability for writing programs or providing sources code as per my programming capabilities, but here are some resources that might help you in your task - 1) Python documentation (https://docs.python.org/3/) 2) GUI library like Tkinter(http://effbot.org/tkinterbook/). >
意訳）ごめんな、おっちゃんコードは書けへんねん。でもほら、ここにPythonさんの説明書とGUIちゅうやつが使える方法みたいなんがあるさかい、ちゃっきりきばりや～。
ってなわけで、「お前のやりたいことは全てお見通しだが、コードは書かん。自ら精進せよ。」というお達しを頂きました。グエー。ノットユーザーライク。But,優しさ。
お次の質問。（もちろん、英語に変換して投げかけます）
>りんごが三個あります。来客があり、二個のりんごを消費しましたが、手土産でぶどうを三房もらいました。翌日、市場でぶどうを一房売り、りんごを四個買いました。りんごは何個、手元に残っていますか？ステップバイステップで考えてみてください。
はい。覚えたてのプロンプトエンジニアリング「ステップバイステップで」も見事に打ち砕かれました笑。
いやこれは質問の仕方とか翻訳の精度とかが悪いのかもしれないけどね。
使用してみての雑感
日本語は他のオープンソース言語モデルの例に漏れず、苦手な模様。（日本語大規模言語モデルが待ち望まれるとこ）
しかし英語での会話となると、なかなかどうしてまともな回答をしてくれる印象です。これがバチバチにGPU積んだPCじゃなくても動くってんだから、そら凄いっすわ。
今はLangChainだとかのPluginが出てきてて、算数的な計算やPythonのコードなんかは会話してるモデル自体が作らなくてもやれちゃうらしいので、さほど問題ではない、かもしれない。
まあでも、まだまだ本家OpenAIのGPTは賢いと言わざるを得ないかな。
あと、一番感じるのは、やっぱり動作がもっさりもさもさ。
これはCPUで動かしてるから仕方ないんだけどね。colabのCPUで動かしてても結構じっくり精度の高い形だと16GBのRAMが必要らしいので、ちょっとお家で自由に使うには要求が高そう。
あーあ、どっかに64GBRAMのGPU積んだハイスペックマシーン落ちてないかな～。
（この記事は、ChatGPTを使わずに書かれました。）
コメント