機械学習で圧縮ってどういうものを想像しますか……？

僕の理解していたパターン

• 入力データ X を使って予測器を学習させ、最終パラメータ W を得る
• F(X,W) で出てきた確率分布をエントロピー符号で符号化して E を得る
• W と E をくっつけて出力する
• W を使って予測器回した結果と E を照合すると元のデータ X が得られる

DeepMind 論文では offline setting と言われている