Coursera: Deep Learning Specialization の Course3: Structuring Machine Learning Projects を修了しました。本当は1ヶ月くらい前に終わってたけど…。
内容としては次の通り。
- Machine Learning Strategy
- Orthogonalization
- Evaluation Metrics
- train/dev/test distribution
- Comparing human level performance
- Error Analysis
- Transfer learning/Multi-task learning
- End-to-end deep learning
今回のコースはかなり実践的な内容で「AI プロジェクトはこうやって進めましょう」というような話がメイン。こういう実践的な内容はこの講義でしか受けられないんじゃないかなーと思った。
単一の Metrics を設定するとチームパフォーマンスが高まる、プロジェクトは iterative だからからシンプルなモデルをまずは実装しましょうとか、最初に Error Analysis をしましょう、とか。AI プロジェクトに限らないといえばその通りだけど。
Deep Learning はハイパーパラメータが特に多い中で、どのハイパーパラメータがどの Metrics を改善・悪化させるかを意識するのはとても重要。この講義ではそれを昔のテレビのチューニングノブに例えていた。複数のノブを同時に操作してしまうと、何が起きているか分からなくなってしまうので、どのノブがどんな影響を持っているか正しく把握して、それぞれ個別に操作していきましょう、という話だった。