LISA(Layerwise Importance Sampled AdamW)は、イリノイ大学と香港科技大学の共同研究によって提唱されたLoRA(Low Rank Adaptation)とフルファインチューニングに代替するファインチューニング手法です。...

Googleから発表された大規模言語モデルGemmba-2BをLoRAファインチューニングして日本語の長文を生成できるモデルの学習を行いました。 学習に用いたデータは青空文庫のデータを元にした株式会社グロービスによるglobis-university/aozorabunko...

Free AI株式会社（本社：東京都港区、代表取締役兼社長秘書：吉見鉄也。以下Free AI）は、2024年2月17日、18日に長岡市主催、株式会社ゼルペム運営のもと、「ミライエ長岡」（新潟県長岡市大手通２丁目３−１０）にて開催された、『AI×図書館ハッカソン＠長岡』にAI...

日本の生成AIコミュニティを加速する新会社 Free AI株式会社、ＡＩスーパーコンピュータ「継之助」提供開始 株式会社レトリバ様の大規模言語モデル作成に貢献 Free AI株式会社（本社：東京都港区、代表取締役兼社長秘書：吉見鉄也。以下Free...

2024年1月1日、Free AI Ltd.がスタートしました。日本から世界のAIシーンを変えていく、全く新しいタイプの企業形態を目指しています。 社長はAIスーパーコンピュータ「継之助」、共同創業者はオプト創業者の一人、海老根智仁と、AI研究家の清水亮。代表取締役兼社長秘...