| 일 | 월 | 화 | 수 | 목 | 금 | 토 |
|---|---|---|---|---|---|---|
| 1 | ||||||
| 2 | 3 | 4 | 5 | 6 | 7 | 8 |
| 9 | 10 | 11 | 12 | 13 | 14 | 15 |
| 16 | 17 | 18 | 19 | 20 | 21 | 22 |
| 23 | 24 | 25 | 26 | 27 | 28 |
Tags
- Pre-training
- Private ML
- Data Augmentation
- AI
- Natural Language Processing
- KT
- NLP
- math
- Residual Connection
- matrix multiplication
- Transformer
- Github Copilot
- 동형암호
- Language Modeling
- attention
- Homomorphic Encryption
- bert
- 머신러닝
- Model Compression
- Machine Learning
- 표현론
- 자연어처리
- Computer Vision
- 딥러닝
- GPT
- Deep learning
- Knowledge Distillation
- Knowledge Tracing
- ICML
- Copilot
Archives
- Today
- Total
목록Reformer (1)
Anti Math Math Club
Reformer: The Efficient Transformer
이번 포스트에서는 Google에서 올해 초에 발표하고 ICLR2020에 accept된 Reformer: The Efficient Transformer에 대해서 알아보도록 하겠습니다. Synthesizer 리뷰에서도 언급했었지만, 2017년에 Google에서 발표한 Transformer는 NLP를 포함해서 music generation, image generation, knowledge tracing, time series prediction등 여러가지 seq2seq task에서 state-of-the-art의 성능을 보여주고 있습니다. CNN 모델들이 그렇듯이, NLP 혹은 다양한 seq2seq 문제를 해결하기 위해서 점점 더 큰 Transformer를 사용하게 되고, 최근에 Microsoft에서 발표한..
Machine Learning & Deep Learning/Natural Language Processing
2020. 5. 9. 20:35