MPNet

ConvBERT

AI GitHub リポジトリ

スパンベースの動的畳み込みを特徴とする新しいアーキテクチャを持つ、言語モデルの事前学習のためのオープンソースAIモデルです。このGitHubリポジトリには、V100 GPUでテストされたConvBERTモデルの事前学習およびファインチューニング用のコードが含まれており、TensorFlowでの使用方法も記載されています。ConvBERTは、スパンベースの動的畳み込みを特徴とする新しいアーキテクチャを持つ、言語モデルの事前学習のためのオープンソースAIモデルです。このGitHubリポジトリには、V100 GPUでテストされたConvBERTモデルの事前学習およびファインチューニング用のコードが含まれており、TensorFlowでの使用方法も記載されています。

LLMs-from-scratch

AI GitHub リポジトリ

ユーザーがPyTorchを使用してChatGPTのような言語モデルを実装する手助けをするGitHubプロジェクトです。ゼロから大規模言語モデルを構築するためのステップバイステップのアプローチを提供し、AIや機械学習に興味のある開発者や研究者に最適です。LLMs-from-scratchは、ユーザーがPyTorchを使用してChatGPTのような言語モデルを実装する手助けをするGitHubプロジェクトです。ゼロから大規模言語モデルを構築するためのステップバイステップのアプローチを提供し、AIや機械学習に興味のある開発者や研究者に最適です。

SpanBERT

AI GitHub リポジトリ

テキストの範囲（スパン）の表現と予測に焦点を当てることで、事前学習の改善を目指すAIモデルです。HuggingFace BERTフォーマットと互換性のある、事前学習済みのベースモデルとラージモデルを提供します。このリポジトリには、質問応答や関係抽出を含む様々なNLPタスクでSpanBERTを使用および評価するためのコードが含まれています。SpanBERTは、テキストの範囲（スパン）の表現と予測に焦点を当てることで、事前学習の改善を目指すAIモデルです。HuggingFace BERTフォーマットと互換性のある、事前学習済みのベースモデルとラージモデルを提供します。このリポジトリには、質問応答や関係抽出を含む様々なNLPタスクでSpanBERTを使用および評価するためのコードが含まれています。

FNet

AI GitHub リポジトリ

自己注意機構をフーリエ変換に置き換えた効率的なTransformerライクなエンコーダーアーキテクチャです。Google Researchによって開発され、自然言語処理タスクにおいて高性能な代替手段を提供します。このモデルはJax/Flaxで実装されており、事前学習およびファインチューニングのためにGitHubで利用可能です。FNetは、自己注意機構をフーリエ変換に置き換えた効率的なTransformerライクなエンコーダーアーキテクチャです。Google Researchによって開発され、自然言語処理タスクにおいて高性能な代替手段を提供します。このモデルはJax/Flaxで実装されており、事前学習およびファインチューニングのためにGitHubで利用可能です。

MASS

AI GitHub リポジトリ

シーケンス・トゥ・シーケンスの言語生成タスクのための事前学習手法です。エンコーダーがデコーダーで予測するために文の断片をマスクし、ニューラル機械翻訳やテキスト要約などのタスクを強化します。このコードベースは、Fairseqに基づいた様々なアプリケーションをサポートしています。MASSは、シーケンス・トゥ・シーケンスの言語生成タスクのための事前学習手法です。エンコーダーがデコーダーで予測するために文の断片をマスクし、ニューラル機械翻訳やテキスト要約などのタスクを強化します。このコードベースは、Fairseqに基づいた様々なアプリケーションをサポートしています。

ProphetNet

AI GitHub リポジトリ

自然言語生成に焦点を当てたMSRA NLCチームの研究プロジェクトです。将来情報、共同生成・ランク学習、拡散ベースのテキスト生成などの事前学習済みモデルの公式実装を提供しています。プロジェクトはGitHubでホストされています。ProphetNetは、自然言語生成に焦点を当てたMSRA NLCチームの研究プロジェクトです。将来情報、共同生成・ランク学習、拡散ベースのテキスト生成などの事前学習済みモデルの公式実装を提供しています。プロジェクトはGitHubでホストされています。

MiniGPT-4 & MiniGPT-v2

AI GitHub リポジトリ

MiniGPT-4およびMiniGPT-v2のオープンソースコード。これらは、ビジョンと言語の理解を強化する高度な大規模言語モデルです。これらのモデルは、ビジョンと言語のタスクにおけるマルチタスク学習を可能にし、画像理解と生成の機能を提供します。Llama 2およびVicunaモデルを基盤としており、研究者や開発者向けの強力なツールを提供します。

LLaVA

AI GitHub リポジトリ

大規模言語とビジョン機能を組み合わせたビジュアル指示チューニングモデルです。GPT-4Vレベルのパフォーマンスを目指し、マルチモーダルな理解とインタラクションを可能にします。このプロジェクトは、研究者や開発者向けにコード、モデル、リソースを提供します。LLaVAは、大規模言語とビジョン機能を組み合わせたビジュアル指示チューニングモデルです。GPT-4Vレベルのパフォーマンスを目指し、マルチモーダルな理解とインタラクションを可能にします。このプロジェクトは、研究者や開発者向けにコード、モデル、リソースを提供します。