Select Language

Open Dataset

アラビア語Wikiデータダンプ2018

アラビア語Wikiデータダンプ2018

245 hits
0 likes
0 downloads
0 discuss
NLP,Languages,Neural Networks Classification

Data Structure ? 0M

    Data Structure ?

    *The above analysis is the result extracted and analyzed by the system, and the specific actual data shall prevail.

    README.md

    文脈 アラビア語は豊かで主要な世界言語です。近年の計算言語学と人工知能の進歩はアラビア語に適用できますが、ほとんどの言語が扱われる一般的な方法では適用できません。このデータセット(ウィキペディアのアラビア語記事)は、Word2Vecを訓練するために使用され、一般的な方法でFastText(Facebook)から公開されている事前学習済みモデルとの性能を比較します。関連するモデルが現在利用可能です:https://www.kaggle.com/abedkhooli/arabic-ulmfit-model 内容 2018年1月20日のデータダンプ(圧縮済み)のすべてのウィキペディアのアラビア語記事がウィキメディア形式です。内容は(ほとんど)現代標準アラビア語であることが期待されます。 謝辞 公開データダンプを提供してくれたウィキペディアと、事前学習済みモデルを公開してくれたFacebookに感謝します。 着想 ここでの課題(機会)は主に、トークンの前処理とテキスト正規化、そして異なる目的のためのハイパーパラメータチューニングにあります。アラビア語のトークンを分離するのは簡単です(多くの記事には非アラビア語の単語が含まれています)が、トークン化は課題です:アクセント付き(7arakaatまたはtashkeel)とアクセントなしの単語形、異なる意味を持つ同じ単語形、接尾辞と接頭辞(特にw)をどのように扱うかです。
    ×

    The dataset is currently being organized and other channels have been prepared for you. Please use them

    The dataset is currently being organized and other channels have been prepared for you. Please use them

    Note: Some data is currently being processed and cannot be directly downloaded. We kindly ask for your understanding and support.
    No content available at the moment
    No content available at the moment
    • Share your thoughts
    Go share your ideas~~

    ALL

      Welcome to exchange and share
      Your sharing can help others better utilize data.
    Points:0 Go earn points?
    • 245
    • 0
    • 0
    • collect
    • Share