【深度学习】一文看懂注意力机制

注意力是一种在广泛的神经结构中使用的越来越流行的机制。由于这一领域的快速发展，仍然缺乏对注意力的系统概述。在本文中，讨论了以往工作的不同方面，注意力机制的可能用途，并描述了该领域的主要研究工作和公开挑战。

   

    

   
   

    

     
         

          

           
            

             

              
               

                

                 
                     

                      

                       
                        

                         

                          

                           

                            

                             

                              往期精彩回顾
                             
                            
                           
                          
                         
                        
                        

                         

                          

                           

                            

                           
                           

                            

                             

                            
                            

                             

                            
                           
                           

                            

                           
                          
                         
                         

                          
适合初学者入门人工智能的路线及资料下载
                          
(图文+视频)机器学习入门系列下载
                          
机器学习及深度学习笔记等资料打印
                          
《统计学习方法》的代码复现专辑

                         
                        
                      
                     
                
               
             
            
            

             
交流群
            
欢迎加入机器学习爱好者微信群一起和同行交流，目前有机器学习交流群、博士群、博士申报交流、CV、NLP等微信群，请扫描下面的微信号加群，备注：”昵称-学校/公司-研究方向“，例如：”张小明-浙大-CV“。请按照格式备注，否则不予通过。添加成功后会根据研究方向邀请进入相关微信群。请勿在群内发送广告，否则会请出群，谢谢理解~（也可以加入机器学习交流qq群772479961）