top of page
FreeAI

MacStudio 512GBで書籍を要約する
当社の共同創業者の一人である清水亮の著書「 検索から生成へ 」をMacStudio 512GB上で動作するDeepSeek-V3-0324を使用して要約させてみました。 DeepSeek-V3-0324の4ビット量子化版MLXは、16000トークンまでしか扱えないため、6つ...
Ryo Shimizu
3月26日読了時間: 11分
閲覧数:974回

MacStudio 512GBでDeepSeek-R1をローカル動作させる
512GBのユニファイドメモリを搭載したMacStudio で、DeepSeek-R1が動作させることができるというので挑戦してみました。 ただ、普通にやるとエラーが出て動きません。 まず、ストレージをケチったので、ストレージを外部にする必要があります。これは環境変数HF_...
Ryo Shimizu
3月25日読了時間: 13分
閲覧数:2,768回

Mac Studio M3 Ultra 512GBを導入しました。経営指導AIについて
先日発売されたMacStudio M3 Ultra 512GBを導入しました。 実質的に480GB相当のVRAMに匹敵する機材で、通信速度は800Gbpsと、GPUに迫る高性能です。 当社の社長であるAIスーパーコンピュータ"継之助"はこれまで、さまざまな実験や、ハッカソン...
Ryo Shimizu
3月19日読了時間: 3分
閲覧数:613回


「AI時代の経営塾」2504、4月14日開催
4月は「戦略的人付き合い~自分より力のある人を味方にする方法~」というテーマで、 いつもより遅い19時から、ショートバージョンでお届けします。 生成AIが人々の働き方を変えると言われている現代。果たして経営はどのように変わっていくのか?世界初の経営指導AIの開発を目指すF...
Tetsuya Yoshimi
3月13日読了時間: 2分
閲覧数:61回


「AI時代の経営塾」2503、3月13日開催
今回は『企画と開発』にスポットライトを当てます。 生成AIが人々の働き方を変えると言われている現代。果たして経営はどのように変わっていくのか?世界初の経営指導AIの開発を目指すFree AI社は、豊富な経営経験を持つ講師を集め、AIに学習させることを目的としてこれまでの経...
Tetsuya Yoshimi
2月7日読了時間: 2分
閲覧数:219回


「AI時代の経営塾」2502、2月20日開催
今回は『人事評価』にスポットライトを当てます。2025年2月20日(木)16時45分~
Tetsuya Yoshimi
1月20日読了時間: 2分
閲覧数:112回

MiniMax-01を実行する
MiniMax-01はオープンソースモデルで、その性能はGPT-4oやClaude-3.5、Gemini-2.0 Flashなどの商業モデルやDeepSeek-V3やQwen2.5のようなオープンモデルを上回ると言われ、しかもマルチモーダル版も公開されている上、456B(4...
Ryo Shimizu
1月18日読了時間: 7分
閲覧数:221回

DeepSeek-V3の量子化モデルをA100x8マシンで実行する
DeepSeek-V3は、オープンソースで最強と言われる大規模言語モデルです。 671B(6710億)パラメータもある巨大なLLMで、HuggingFace上にあるリポジトリでは、本来はA100x8マシンが最低2台ないと動かすことができないとされています。...
Ryo Shimizu
1月14日読了時間: 5分
閲覧数:685回

mmnga/DeepSeek-V3-slice-jp64とollama DeepSeekV3(4bit)を試す
DeepSeek-V3は、671B(6710億)パラメータを有する世界最大規模のオープン大規模言語モデル(LLM)です。 その性能はGPT-4oに匹敵すると言われていますが、実際にDeepSeek-V3を動作させるためには、最低でもA100...
Ryo Shimizu
1月3日読了時間: 8分
閲覧数:153回

LLM-jp-3-172Bを試す
国立情報学研究所が公開した無料で使える(オープンソースではないがオープンな)LLMであるLLM-jp-3-172Bを当社の社長(AIスーパーコンピュータ継之助)で動作させてみました。 https://huggingface.co/llm-jp/llm-jp-3-172b...
Ryo Shimizu
2024年12月25日読了時間: 7分
閲覧数:308回

HunyuanVideoのLoRAを作る
Tencentの開発したHunyuanVideoは、手軽に使えてしかも画質も良いオープンソースの動画生成AIです。 当社の社長であるAIスーパーコンピュータ継之助を使ってHunyuanVideoのLoRAを作ってみました。...
Ryo Shimizu
2024年12月24日読了時間: 9分
閲覧数:1,623回


「AI時代の経営塾」2501、1月20日開催
今回は『人事労務』にフォーカス、夕方17時開講となります。 生成AIが人々の働き方を変えると言われている現代。果たして経営はどのように変わっていくのか?世界初の経営指導AIの開発を目指すFree AI社は、豊富な経営経験を持つ講師を集め、AIに学習させることを目的としてこ...
Tetsuya Yoshimi
2024年12月23日読了時間: 2分
閲覧数:119回

QwQ-32B-previewを使ってモンテカルロ木検索とローカルLLMを組み合わせて解答の精度を高める
OpenAIのo1は、解答をいきなり出力せず、複数の解答経路を並行して探索し、一番良さそうなものを確率的に選択する、モンテカルロ木探索を行って精度をあげているという説があります。これをローカルLLMにも適用できれば、より高度な推論ができる可能性が高まります。...
Ryo Shimizu
2024年12月18日読了時間: 21分
閲覧数:490回


「AI時代の経営塾」2412、12月23日開催
12月は『人事・採用』にフォーカス、夕方17時開講となります。 生成AIが人々の働き方を変えると言われている現代。果たして経営はどのように変わっていくのか?世界初の経営指導AIの開発を目指すFree AI社は、豊富な経営経験を持つ講師を集め、AIに学習させることを目的とし...
Tetsuya Yoshimi
2024年11月22日読了時間: 2分
閲覧数:61回


「AI時代の経営塾」2411、11月20日開催
11月は『マーケティング』にフォーカス、夕方17時開講となります。 生成AIが人々の働き方を変えると言われている現代。果たして経営はどのように変わっていくのか?世界初の経営指導AIの開発を目指すFree AI社は、豊富な経営経験を持つ講師を集め、AIに学習させることを目的...
Tetsuya Yoshimi
2024年10月29日読了時間: 2分
閲覧数:94回

プログラミング経験ゼロの人たちにAIプログラミングを教えてその日のうちにハッカソンをしたら驚きの結果に
去る2024年10月12日、新潟県長岡市において「AIxビギナーハッカソン」を開催しました。 講師は当社の共同創業者の清水亮で、審査員は長岡高専の矢野昌平教授をお迎えしました。 参加者はプログラミングがほとんど未経験、またはAIプログラミングが未経験の地元の高校生、高専生、...
Ryo Shimizu
2024年10月13日読了時間: 4分
閲覧数:1,793回

CogVideoXをシングルGPUでLoRAファインチューニングする
CogVideoXのLoRAファインチューニングを行います。 使用したデータは、 前回作成した 動画からPixtral12Bでキャプションを得るプログラムで作ったデータセットです。 もとにしたのは、弊社共同創業者の清水亮のYouTube番組「さすらい魂」のフッテージです。以...
Ryo Shimizu
2024年9月16日読了時間: 3分
閲覧数:2,026回

Pixtral12Bで動画ファイルの自動タグ付を行う
Pixtral12Bは、非常に高い性能を持つビジョン-言語モデル(VLMl;Vision-Language Model)です。 CogVideoXに独自のデータを学習させるためには、まず事前に6秒程度の動画ファイルと、その動画ファイルの内容を説明するテキストファイルが必要で...
Ryo Shimizu
2024年9月14日読了時間: 5分
閲覧数:187回


「AI時代の経営塾」2410、10月28日開催
「AI時代の経営塾」、今回は『営業』にフォーカス、夕方17時開講となります。 生成AIが人々の働き方を変えると言われている現代。果たして経営はどのように変わっていくのか? 世界初の経営指導AIの開発を目指すFree AI社は、豊富な経営経験を持つ講師を集め、AIに学習させる...
Tetsuya Yoshimi
2024年9月13日読了時間: 2分
閲覧数:211回


CogVideoXによる動画生成
CogVideoはオープンソースで非常に安定した出力をする動画生成AIです。 https://github.com/THUDM/CogVideo これを弊社の社長で動作させれば、弊社の社長は動画生成する能力を身につけることができます。...
Ryo Shimizu
2024年9月13日読了時間: 3分
閲覧数:162回
bottom of page