作家のためのOSS AI

ChatGPTとOSS AIの本格壁打ち。

Categories: 3, 2

これは「AIを賢くする話」ではなく、「自分の判断を減らすためのAI設計ログ」です。

ChatGPTと私。「貴女と私の関係をイラストにして」→ 「若者とロボットの協力作業」

今までぼんやりと「OSS AIインストール」と思ってた。 けど、ここ二ヶ月で「OSS AIにしてほしいこと」をObsidianの一つのフォルダにまとめ、それをChatGPTに投げてサイド壁打ちを始めた。 自動実行環境まで GitHub自動保存 出版作業自動化 タスク管理 メモの整理整頓 新ツール自動実践。 こんな順番でフェーズを切って一つずつ実装していこうか まずしたいことは「勝手にOSS AIを組み上げてくれるOSS AI」。 何が面倒くさいって「このサイトに行って、この名前のダウンロードファイルをみつけてきてダウンロードして」ってのが面倒くさいんだよ! 二分でできることだけど、判断がめっちゃ走る。 私がOSS AIに望むのは「賢いAI」ではない。 それはChatGPTを課金しているからもういいんだ。
「私の判断を極力なくす」ように動いてくれるパソコンの自動化をしたい。 だからPythonで細かいスクリプトをChatGPTに一杯作ってもらっていた。 けれど、そういうのをOSS AIが統合してくれるとありがたい。 そして、GitHub連携して自動でやったことをアップロードしていってほしい。
なんでGitHub化というと、ChatGPTが仕切りに「これはGitHubにあげていいレベル」というので、連携しておいたほうがいいかな、と思っただけ。
あと、バックアップになるし、手戻りが発生したらすぐに前段から再開できると言うので、アカウントを作ってテスト投稿はしてみている。
だが、まだCodexは一度も使ってない。
私がスクリプトをChatGPTに作ってもらっていた時期にコーデックスくんはまだ搭載されていなかった。 今、脳内が忙しくて確認できていない。 私がするのは「これをインストール・アップロードしていいか?」のイエスボタンを押すことだけ。 そういうふうに持っていきたい。 私はADHDっぽい部分があるらしい。 一時期「手紙の投函ができない」「カーテンやタンスが使えない」という、生活に破綻が発生していた時期があった。
コミケの申込書を作るのに投下かかる。一セル記入すると1日分の気力が切れる。それぐらい事務仕事が嫌いであり、苦手だ。
分類とか、タグ付けとか、反省とか、タスク管理とかできない。
ここ15年、タスク管理を頑張った。
リメンバーミルク、タスクシュートクラウド、他、タスクツールを軒並み使ってみた。
マインドマップで管理するためにMindManagerに数万円を注ぎ込んだ。
結果、それらのツールの使い方はうまくなったけど、タスクは一ミリも進まなかった。
それでも出版業務を進めてどうにかここ一年で三冊出した。
でももっと出したい。
もっとメモ管理をなくしたい。
タスク管理をしなくても良い状況になりたい。
 
そういう目的でOSS AIをインストールしたい。
壁打ち開始。
それ全部無料なの?
 
結論。全部無料で成立します。 しかも「今言っている中核構成」は、ライセンス的にも商用利用まで含めて無料で回せます。 少しだけ現実的に整理します。 まず、必須中核スタック。 Docker Desktop:無料(個人利用・小規模商用OK)。 WSL2+Ubuntu:無料。 Ollama:無料・OSS。 Qdrant:無料・OSS(Apache 2.0)。 Python:無料。 LangGraph:無料・OSS(MIT)。 LlamaIndex:無料・OSS(MIT)。 Open WebUI:無料・OSS。 ここまでで、あなたが言っている「OSS AIの中核」=構造を組み上げるAI OSは完成します。 課金は一切不要です。 次に、唯一の注意点(ここだけは勘違いしやすい)。 「モデルそのもの」は選び方次第です。 Ollamaで動かす ・Llama系 ・Qwen系 ・Mistral系 などは、基本無料・ローカル実行・API課金なし。 → つまり 電気代だけ。 逆に、 ・OpenAI API ・Claude API などを併用すると、そこだけ従量課金になります。 ただし、これは「外付けブースター」扱いで、中核ではありません。 あなたの設計思想だと、ここは後付け・非常用で十分。 商用利用について。 今挙げたOSS群は、
  • 自分用OS
  • 有料ツール化
  • 月額サービス
  • 同人配布 全部OKなライセンス構成です。 「コードを公開しろ」義務もありません(GPL地雷なし)。
なので正確に言うと、 構築費:0円 運用費:0円(ローカル) 拡張費:使うならAPI分だけ という状態です。 ここが重要なポイントですが、 あなたの環境(RTX A5500 24GB+RAM 64GB)は、 「無料OSSだけで、ChatGPT依存を脱出できるライン」をすでに超えています。 多くの人がAPI課金に行くのは、ハードが足りないからです。 つまり今の問いに対する一行結論はこれです。 はい、全部無料。しかも“ケチってる構成”ではなく、研究所グレードです。 次の壁打ちポイントは自然に一つだけ残ります。 「最初にどのモデルを中核に据えるか」。 これは金の話ではなく、性格と作風の話になります。
 
すごい時代になったねぇ。
Daz Studioでレンダリングするために、高機能なグラボとか抑えてた。 今、3D全然してなくてマシンもったいないと思ってたけど。 それがOSS AIで生きるなんて、誰が考えただろう。(なんか起こりそうな小説の書き方風)
 
 

最近のログ