intra-xxx 表示xxx内部之间
inter-xxx 表示xxx之间
2016年10月13日星期四
2016年10月11日星期二
pycurl使用中的一个问题
curl了很多次url请求,总是随机的出现Pycurl and io.StringIO - pycurl.error: (23, 'Failed writing body)的错误,参考 http://stackoverflow.com/questions/19606447/pycurl-and-io-stringio-pycurl-error-23-failed-writing-body 解决了问题。
2016年10月9日星期日
中文分词
常用方法有:
1. 基于词典的分词方法(机械分词法)
最大正向匹配法(Forward Maximum Matching, FMM)
逆向最大匹配法(Reverser Maximum Matching, RMM)
最少切分法(使每一句中切出的词数最小)
双向匹配法(Bi-directional Maximum Matching, BMM)
全切分(http://yangshangchuan.iteye.com/blog/2209761) 效率低,应用不多
2. 基于统计的分词方法
HMM
CRF
3. 基于深度学习的方法
参考:
http://www.dianacody.com/2014/11/05/cn_cutwords.html
http://www.open-open.com/lib/view/open1420814197171.html
http://h2ex.com/1282
1. 基于词典的分词方法(机械分词法)
最大正向匹配法(Forward Maximum Matching, FMM)
逆向最大匹配法(Reverser Maximum Matching, RMM)
最少切分法(使每一句中切出的词数最小)
双向匹配法(Bi-directional Maximum Matching, BMM)
全切分(http://yangshangchuan.iteye.com/blog/2209761) 效率低,应用不多
2. 基于统计的分词方法
HMM
CRF
3. 基于深度学习的方法
参考:
http://www.dianacody.com/2014/11/05/cn_cutwords.html
http://www.open-open.com/lib/view/open1420814197171.html
http://h2ex.com/1282
python中包含utf-8中文的列表或字典输出
直接print会出现以下结果:
>>> print list
['\xe6\x88\x91\xe8', '\xe7\x8b\x97']
使用json.dumps可以输出中文:
import json
print json.dumps(list, encoding="UTF-8", ensure_ascii = False)
使用','.join(list)也可以正确输出中文。
使用','.join(list)也可以正确输出中文。
2016年10月5日星期三
解决手机无法连接Charles代理的问题
Mac中使用Charles抓包,手机设置了http代理,Charles设置也没错,但手机一直连不上网。
排查原因:
电脑和手机之间是否能ping通,发现电脑能ping通手机,手机无法ping通电脑。
解决:
系统防火墙已经关了,后来发现是我装了McAfee杀毒软件的防火墙的问题,关闭防火墙后问题解决。系统防火墙开启也不影响。
如果电脑和手机互相ping不通并且防火墙已经关闭,可能是路由器设置问题。
2016年9月22日星期四
解决Pig中ERROR 1071: Cannot convert a map to a String
运行Pig脚本时遇到这样的问题:
ERROR 1071: Cannot convert a map to a String
后来发现原因是map的一个字段值为空字符串,我在后面取了这个字段的值:(chararray)$0#'field' AS field,然后就出错了。所以我在这之前将filed字段为''的都FILTER BY $0#'field' != ''之后问题解决。
ERROR 1071: Cannot convert a map to a String
后来发现原因是map的一个字段值为空字符串,我在后面取了这个字段的值:(chararray)$0#'field' AS field,然后就出错了。所以我在这之前将filed字段为''的都FILTER BY $0#'field' != ''之后问题解决。
订阅:
博文 (Atom)