词袋模型




词袋模型（英语：Bag-of-words model）是個在自然語言處理和信息檢索(IR)下被簡化的表達模型。此模型下，一段文本（比如一个句子或是一个文档）可以用一個装着这些词的袋子来表示，這種表示方式不考慮文法以及詞的順序。最近词袋模型也被應用在電腦視覺領域。[1]


词袋模型被廣泛應用在文件分類，詞出現的頻率可以用來當作訓練分類器的特徵。


關於"词袋"這個用字的由來可追溯到澤里格·哈里斯於1954年在Distributional Structure的文章。[2]




目录






  • 1 範例


  • 2 Term weighting


  • 3 範例:垃圾郵件過濾


  • 4 参考文献


  • 5 參見





範例


下列文件可用词袋表示:


以下是兩個簡單的文件:


(1) John likes to watch movies. Mary likes movies too.



(2) John also likes to watch football games.

基於以上兩個文件，可以建構出下列清單:


[

    "John",

    "likes",

    "to",

    "watch",

    "movies",

    "also",

    "football",

    "games",

    "Mary",

    "too"

]

此處有10個不同的詞，使用清單的索引表示長度為10的向量:


(1) [1, 2, 1, 1, 2, 0, 0, 0, 1, 1] (2) [1, 1, 1, 1, 0, 1, 1, 1, 0, 0]

每個向量的索引內容對應到清單中詞出現的次數。


舉例來說，第一個向量(文件一)前兩個內容索引是1和2，第一個索引內容是"John"對應到清單第一個詞並且該值設定為1，因為"John"出現一次。


此向量表示法不會保存原始句子中詞的順序。該表示法有許多成功的應用，像是郵件過濾。



Term weighting


在上述的範例，文件向量包含term頻率 。在IR和文字分類常用不同方法量term權重。常見方法為tf-idf。



範例:垃圾郵件過濾


分類一個郵件訊息，分類一個貝氏垃圾郵件分類假設訊息是一堆字並且隨機倒在兩堆袋子其中一個袋子裡，之後使用貝氏機率去決定哪個袋子是較有可能的。



参考文献





  1. ^ Sivic, Josef. Efficient visual search of videos cast as text retrieval (PDF). IEEE TRANSACTIONS ON PATTERN ANALYSIS AND MACHINE INTELLIGENCE, VOL. 31, NO. 4. IEEE: 591–605. April 2009. 


  2. ^ Harris, Zellig. Distributional Structure. Word. 1954, 10 (2/3): 146–62. And this stock of combinations of elements becomes a factor in the way later choices are made ... for language is not merely a bag of words but a tool with particular properties which have been fashioned in the course of its use 




參見




  • w-shingling（英语：w-shingling）

  • n元语法

  • 向量空間模型

  • 自然語言處理

  • Additive smoothing（英语：Additive smoothing）

  • 文件分類

  • 機器學習

  • Document-term matrix（英语：Document-term matrix）

  • Hashing trick（英语：Hashing trick）

  • 最小哈希

  • 特徵擷取
















































Comments

Post a Comment

Popular posts from this blog

Information security

Image
This article is part of a series on Information security Related security categories Internet security Cyberwarfare Computer security Mobile security Network security Threats Computer crime Vulnerability Eavesdropping Malware Spyware Ransomware Trojans Viruses Worms Rootkits Bootkits Keyloggers Screen scrapers Exploits Backdoors Logic bombs Payloads Denial of service Defenses Computer access control Application security Antivirus software Secure coding Secure by default Secure by design Secure operating systems Authentication Multi-factor authentication Authorization Data-centric security Encryption Firewall Intrusion detection system Mobile secure gateway Runtime application self-protection (RASP) v t e Information security , sometimes shortened to InfoSec , is the practice of preventing unauthorized access, use, disclosure, disruption, modification, inspection, recording or destruction of information. Th...
Read more

Volkswagen Group MQB platform

Image
The Volkswagen Group MQB platform is the company's strategy for shared modular design construction of its transverse, front-engine, front-wheel-drive layout (optional front-engine, four-wheel-drive layout) automobiles. Volkswagen spent roughly $60bn [1] developing this new platform and the cars employing it. The platform underpins a wide range of cars from the supermini class to the mid size SUV class. MQB allows Volkswagen to assemble any of its cars based on this platform across all of its MQB ready factories. This allows the Volkswagen group flexibility to shift production as needed between its different factories. Beginning in 2012, Volkswagen Group marketed the strategy under the code name MQB , which stands for Modularer Querbaukasten , translating from German to "Modular Transversal Toolkit" or "Modular Transverse Matrix". [2] [3] MQB is one strategy within VW's overall MB (Modularer Baukasten or modular matrix) program which also includes th...
Read more

刘萌萌

Image
body.skin-minerva .mw-parser-output table.infobox caption{text-align:center} 刘萌萌 女演员 罗马拼音 Liu Meng Meng 英文名 Cya 国籍   中国 民族 汉族 出生 ( 1989-10-16 ) 1989年10月16日 （ 29歲）   中国辽宁省大连市 职业 演员、艺人 语言 汉语 教育程度 沈阳音乐学院 北京电影学院表演系进修班 活跃年代 2011年至今 唱片公司 浙江永乐影视制作有限公司 经纪公司 浙江永乐影视制作有限公司 网站 刘萌萌 官方微博 刘萌萌 （1989年10月16日 － ），汉族，中国演员，2010年参加湖南卫视《芒果训练营》而出道至今，凭借电视剧《爱情公寓》“诺澜”一角走红。北京电影学院10级表演系（进修班）毕业。 目录 1 主要经历 2 影视作品 2.1 电视剧 2.2 电影 2.3 综艺节目 3 参考文献 4 外部链接 主要经历 1989年，出生于辽宁省大连市一个工人家庭； 2006年，考入沈阳音乐学院舞蹈系本科班学习； 2010年，参加湖南卫视《芒果训练营》演艺新秀比赛而出道 [1] ；進入北京电影学院表演系进修班 2011年，出演电视剧《隋唐演义》“琼花公主”一角色； 2012年，担任电视剧《爱情公寓》“诺澜”一角并开始走红 [2] ； 2013年，担任电视剧《利箭纵横》《利剑行动》 [3] 女主角“林筱雨” 2014年，参加江苏卫视真人秀栏目《花样年华》 [4] 备受瞩目 [5] 。 影视作品 电视剧 首播年份 剧名 角色 备注 2012 《爱情公寓3》 诺澜 2012 《利箭行动》 林筱雨 2013 《隋唐演义》 琼花公主 2013 《决战燕子门》 马晓婉 2014 《利箭纵横》 林筱雨 2014 《屌丝日记》 林洛霏 網絡劇 2014 《爱情公寓4》 诺澜 ...
Read more