MNISTデータセットを構築するために使用された正確な前処理手順は、長い間失われています。このため、文字を書いた人のIDと関連付ける信頼できる方法がなく、60,000枚の画像を持っていたが公開されたことのない完全なMNISTテストセットを回復する見込みもほとんどありません。公式のMNISTテストセットには、たった10,000枚のランダムにサンプリングされた画像しか含まれており、有意義な信頼区間を提供するには小さすぎると考えられることが多いです。

QMNISTデータセットは、NIST Special Database 19にある元のデータから生成され、できるだけMNISTの前処理に合わせることを目的としています。

QMNISTの使用方法

以下では、複雑さを増す順にQMNISTの使用方法を説明します。

更新 - 以下の2.4節で説明するPytorch QMNISTローダーは、現在torchvisionに含まれています。

QMNIST拡張テストセットの使用方法

QMNIST拡張テストセットを使用する最も簡単な方法は、以下の2つのファイルをダウンロードすることです。これらのgzip圧縮ファイルは、標準のMNISTデータファイルと同じ形式ですが、60,000件のテストサンプルが含まれています。最初の10,000件のサンプルは、標準のMNISTテスト数字のQMNIST再構築です。それに続く50,000件のサンプルは、失われたMNISTテスト数字の再構築です。

QMNIST拡張ラベルの使用方法

公式のNISTトレーニングデータ（シリーズhsf0からhsf3、書き手0から2099）は、NISTの従業員によって書かれたものです。公式のテストデータ（シリーズhsf4、書き手2100から2599）は、高校生によって書かれたもので、大幅に難しいと考えられています。機械学習は、トレーニングデータとテストデータが同じ分布に従っている場合により良く機能するため、MNISTデータセットの作成者は、両方のシリーズの書き手をトレーニングセットとテストセットに分配することを決定しました。QMNIST拡張ラベルは、各トレーニングまたはテスト数字をNIST Special Database 19のソースに追跡します。QMNISTトレーニングセットとQMNISTテストセットの最初の10,000件のサンプルは、MNISTトレーニングおよびテスト数字と正確に一致するため、この情報は標準のMNISTデータセットにも使用できます。拡張ラベルは、以下のファイルに含まれています。

これらのgzip圧縮ファイルの形式は、標準のMNISTラベルファイルの形式と非常に似ています。ただし、符号なしバイトの一次元テンソル（idx1-ubyte）ではなく、ラベルテンソルは8列の整数の二次元テンソル（idx2-int）です。

バイナリファイルidx2-intは、この情報をビッグエンディアンの32ビット整数のシーケンスとしてエンコードします。

多くの要望に応えて、同じ情報をTSVファイルとしても提供しています。

QMNISTデータファイル

QMNIST配布物には、実際には以下のファイルが含まれています。

.gz拡張子のファイルはgzip圧縮されており、標準コマンドgunzipで解凍できます。.xz拡張子のファイルはLZMA圧縮されており、標準コマンドunxzを使用して解凍できます。

QMNISTトレーニングサンプルは、MNISTトレーニングサンプルと1対1で、かつ同じ順序で一致します。QMNISTテストサンプルの最初の10,000件は、MNISTテストサンプルと1対1で、かつ同じ順序で一致します。xnist-*データファイルは、NIST Special Database 19に含まれるすべての数字の前処理済み画像と拡張ラベルを、パーティションと書き手の順序で提供します。拡張ラベルの列5には、このファイル内の各数字のインデックスが記載されています。NISTデータセットには3つの重複数字が見つかりました。拡張ラベルの列6には、その数字が重複する数字のインデックスが含まれています。重複数字はQMNIST/MNISTトレーニングセットとテストセットから除外されているため、qmnist-*拡張ラベルファイルではこのようなことは起こりません。

Pytorch QMNISTローダー

更新 - ここで説明するPytorch QMNISTローダーは、現在torchvisionに含まれています。

ファイルqmnist.pyには、人気のあるPytorchプラットフォーム用のQMNISTデータローダーが含まれています。このローダーは、pytorch.pyと同じディレクトリにあるQMNISTデータファイルを読み込むか、オプションdownload=Trueを指定するとWebからダウンロードします。このデータローダーは、標準のPytorch MNISTデータローダーと互換性があり、追加の機能も提供しています。これらの機能のドキュメントは、pytorch.py内のコメントで確認するのが最適です。

以下はいくつかの例です。

from qmnist import QMNIST

# qmnistトレーニングセット、見つからない場合はWebからダウンロード
qtrain = QMNIST('_qmnist', train=True, download=True)

# qmnistテストセット、ダウンロードしない
qtest = QMNIST('_qmnist', train=False)

# qmnistテストセットの最初の10k件と拡張ラベル
# (ターゲットは8つの整数のtorchベクトル)
qtest10k = QMNIST('_qmnist', what='test10k', compat=False, download='True')

# すべてのNIST数字と拡張ラベル
qall =