论野生技术&二次元 - 第15页共32页

Coreseek4.x/5.x编译和一些注意事项

on 2015 年 1 月 2 日

0 11494 转为繁体

使用ubuntu/debian系统32位的可以在这里下载我编译好的coreseek5/csft包

对于>2.2.10的版本，我在这篇博客里提供了完整的补丁，可以应用在sphinx的源码上编译。

编译mmseg

git clone  https://github.com/nzinfo/mmseg
cd mmseg
automake --add-missing
./bootstrap
./configure --prefix=/usr/local/mmseg
make && make install

git clone https://github.com/nzinfo/mmseg

cd mmseg

automake --add-missing

./bootstrap

./configure --prefix=/usr/local/mmseg

make && make install

编译coreseek5

apt-get install Cython
git clone https://github.com/nzinfo/csft
cd csft
git checkout r/csft5
sh buildconf.sh
automake --add-missing
./configure --prefix=/usr/local/coreseek --with-mysql  --with-mmseg-includes=/usr/local/mmseg/include/mmseg --with-mmseg-libs=/usr/local/mmseg/lib

apt-get install Cython

git clone https://github.com/nzinfo/csft

cd csft

git checkout r/csft5

sh buildconf.sh

automake --add-missing

./configure --prefix=/usr/local/coreseek --with-mysql --with-mmseg-includes=/usr/local/mmseg/include/mmseg --with-mmseg-libs=/usr/local/mmseg/lib

自动脚本有一些bug ：

手动运行一次autoconf和automake
./configure xxxx之后，修改src/Makefile在LIBS加上-L/usr/local/mmseg3/lib -lmmseg
~~am__object_1 增加 tokenizer_zhcn.$(OBJEXT)~~
~~SRC_SPHINX增加tokenizer_zhcn.cpp~~
~~gcc 5.不知道多少版本以后会脑残，sphinx.cpp里有个地方要加上this->，忘记具体变量了，没关系gcc会告诉你在哪的~~

如果用4.1的话不能用最新版的sphinxclient，可以去sphinx_php_api的trunk里找define ( “VER_COMMAND_SEARCH”, 0x117 );的版本（0x117 ->1.23)

最后贴一个图来表达对xunsearch的…………

又慢（搜索比sphinx慢5~10倍，索引体积比原始数据大7倍，比sphinx大21倍），结果又少（mysql模糊搜索≈coreseek搜索≈740+，这货只有114，$search->count获得的精确值是286条）

另外ini文件名和里面填的project_name不一致会神作

告诉我是我打开方式不对

Memcached扩展的一些坑及强迫症专用PV统计的实现

on 2015 年 1 月 2 日

0 43734 转为繁体

坑

以下针对PHP的Memcached扩展

increment/decrement/touch方法必须使用binary protocol($_mc->setOption(Memcached::OPT_BINARY_PROTOCOL,true))，且连续执行两个请求必须先关闭之前的才可以
$expiry参数可以是UNIX 时间戳也可以是当前秒数，秒数大于30天会被认为是时间戳，要设置用不超时可以设为0
启用binary protocol后increment/decrement的返回值可能类似1 15415 a2d1，←注意是类似这样的，没关系加个intval就行了
看php.org文档的时候下面的用户留言比上面的有用得多

强迫症专用PV统计

强迫症认为PV统计漏掉一个IP就会浑身难受

在需要统计的页面的PHP中嵌入一下代码

<?php
$visiter_key = "visitor_".$newsid."_".get_ip();
$pv_key = "pv_".$newsid;
$new_pv_cnt = 0;
if(!mc_get($visiter_key)){
	mc_set($visiter_key, $expire=3600);
	mc_touch($pv_key, $expire=600);//renew pv stat for 10min, no matter fail or not
	$new_pv_cnt = mc_incr($pv_key, $offset=1, $init=1, $expire=600);
}

<?php

$visiter_key = "visitor_".$newsid."_".get_ip();

$pv_key = "pv_".$newsid;

$new_pv_cnt = 0;

if(!mc_get($visiter_key)){

mc_set($visiter_key, $expire=3600);

mc_touch($pv_key, $expire=600);//renew pv stat for 10min, no matter fail or not

$new_pv_cnt = mc_incr($pv_key, $offset=1, $init=1, $expire=600);

}

每个ip一小时内访问相同页面只计一次；注意要先touch再increment，因为increment并不会增加超时时间，如果增加了还没被读就超时就杯具了；反之如果key不存在touch一下也不会怀孕；每当一个新用户访问，增加生命值10min

cron定时入库

<?php
foreach(mc_getallkeys() as $_ => $key){
    if(substr($key, 0, 10) == 'detail_pv_'){//访问量
        $cnt = intval(mc_get($key));
        if($cnt >0){
            mc_decr($key, $offset=$cnt, $init=0, $expire=600);//10 min
            //mc_delete($key);
            $newsid = explode('_', $key)[2];
             ##run sql here
        }
    }
}

<?php

foreach(mc_getallkeys() as $_ => $key){

if(substr($key, 0, 10) == 'detail_pv_'){//访问量

$cnt = intval(mc_get($key));

if($cnt >0){

mc_decr($key, $offset=$cnt, $init=0, $expire=600);//10 min

//mc_delete($key);

$newsid = explode('_', $key)[2];

##run sql here

}

注意这里不能用delete，因为delete可能会使数据丢失，但是decrement就没关系了

awk(又是awk)高亮显示nginx日志

on 2014 年 12 月 21 日

Linux

7 13329 转为繁体

请叫我awk小(nao)王(can)子(fen)

tail -f /var/log/nginx/access.log|awk '{
if ($9 >= 400)
	$9="\33[1;31m"$9"\33[0m";
else
	$9="\33[1;32m"$9"\33[0m";
$1="\33[1;35m"$1"\33[0m";
$7="\33[33m"$7"\33[0m";
$10="\33[1;36m"$10"\33[0m";
print $0;
}'

tail -f /var/log/nginx/access.log|awk '{

if ($9 >= 400)

$9="\33[1;31m"$9"\33[0m";

else

$9="\33[1;32m"$9"\33[0m";

$1="\33[1;35m"$1"\33[0m";

$7="\33[33m"$7"\33[0m";

$10="\33[1;36m"$10"\33[0m";

print $0;

效果

awk分析日志统计当日热门页面

on 2014 年 12 月 13 日

代码

0 26163 转为繁体

不想写python，而且我比较相信awk+uniq+sort的速度

awk -v date="$(date '+\%d/\%b/\%Y')" '($4 ~ date && $9 ~ /200/ ){print $1,$7}' /var/log/nginx/access.log | sort | uniq |awk '{print $2}'|sort|uniq -c|sort -r|head -n 50

1	awk -v date="$(date '+\%d/\%b/\%Y')" '($4 ~ date && $9 ~ /200/ ){print $1,$7}' /var/log/nginx/access.log \| sort \| uniq \|awk '{print $2}'\|sort\|uniq -c\|sort -r\|head -n 50

cron的~~时区很奇怪，不会调，系统时间是+8，tail /var/log/syslog之后发现是西五区，手动+13小时~~ 可以通过修改localtime，修改完之后重启service cron（还是重启系统好了）参阅
Shell

rm /etc/localtime cp /usr/share/zoneinfo/Asia/Shanghai /etc/localtime

1
2

rm /etc/localtime
cp /usr/share/zoneinfo/Asia/Shanghai /etc/localtime
第一步取出所有日期是今天且响应是200的请求，打印请求ip和请求uri
第二、三步对(ip uri)排序，去重，单个ip访问单个页面只会被记为一次
打印uri，去重，排序，显示前50个

time计时

52M日志，26w条

awk -v date="$(date '+%d/%b/%Y')"  /var/log/nginx/access.log  0.14s user 0.01s system 92% cpu 0.159 total
sort  0.00s user 0.00s system 0% cpu 0.156 total
uniq -c  0.00s user 0.00s system 0% cpu 0.145 total
sort  0.00s user 0.00s system 0% cpu 0.136 total
awk '{print $3}'  0.00s user 0.00s system 0% cpu 0.137 total
sort  0.00s user 0.00s system 0% cpu 0.125 total
uniq -c  0.00s user 0.00s system 0% cpu 0.124 total
sort -r  0.00s user 0.00s system 0% cpu 0.114 total
head -n 50  0.00s user 0.00s system 0% cpu 0.113 total

awk -v date="$(date '+%d/%b/%Y')" /var/log/nginx/access.log 0.14s user 0.01s system 92% cpu 0.159 total

sort 0.00s user 0.00s system 0% cpu 0.156 total

uniq -c 0.00s user 0.00s system 0% cpu 0.145 total

sort 0.00s user 0.00s system 0% cpu 0.136 total

awk '{print $3}' 0.00s user 0.00s system 0% cpu 0.137 total

sort 0.00s user 0.00s system 0% cpu 0.125 total

uniq -c 0.00s user 0.00s system 0% cpu 0.124 total

sort -r 0.00s user 0.00s system 0% cpu 0.114 total

head -n 50 0.00s user 0.00s system 0% cpu 0.113 total

134M日志，加上了两个自定义条件，65w条

awk '($9 ~ /200/ && $7 !~ /#/){print $1,$7}'   0.70s user 0.09s system 53% cpu 1.457 total
sort  0.03s user 0.01s system 2% cpu 1.530 total
uniq -c  0.02s user 0.00s system 1% cpu 1.530 total
awk '{print $3}'  0.02s user 0.00s system 1% cpu 1.541 total
sort  0.02s user 0.00s system 1% cpu 1.563 total
uniq -c  0.01s user 0.00s system 0% cpu 1.569 total
sort -r  0.01s user 0.00s system 0% cpu 1.568 total
head -n 50  0.00s user 0.00s system 0% cpu 1.567 total

awk '($9 ~ /200/ && $7 !~ /#/){print $1,$7}' 0.70s user 0.09s system 53% cpu 1.457 total

sort 0.03s user 0.01s system 2% cpu 1.530 total

uniq -c 0.02s user 0.00s system 1% cpu 1.530 total

awk '{print $3}' 0.02s user 0.00s system 1% cpu 1.541 total

sort 0.02s user 0.00s system 1% cpu 1.563 total

uniq -c 0.01s user 0.00s system 0% cpu 1.569 total

sort -r 0.01s user 0.00s system 0% cpu 1.568 total

head -n 50 0.00s user 0.00s system 0% cpu 1.567 total

小站可以考虑

在某网站中使用的字幕文件名猜测视频文件名的算法

on 2014 年 11 月 30 日

2 71914 转为繁体

觉得有点意思，拿出来和大家一起研究下，欢迎提供更好的建议。

因为爬x手的时候，网页已经没了，只能自食其力；用unrar(rarlab上下的，apt-get里的太古老)获得rar内的文件名，用zipfile模块列zip包的，抓的时候直接把返回的内容插到数据库了，没分析，因为没那么多时间去想算法，还是先把dirty data撸下来再说。

然后开始正文了www

按照这么一个基本思想，字幕文件名除了扩展名以外，其余部分和视频文件是一样的。如果压缩包里面只有一个文件，那么直接就是它去掉扩展名就好了；但是如果有多个版本的字幕（比如eng，GB，BIG5等），那就需要一个字符串最大匹配的算法。←为了装B取的名字
Read More→

win8平板推黄油时提示Initializing DirectInput failed的解决方案

on 2014 年 11 月 5 日

国家大事

0 16367 转为繁体

win8平板推黄油时提示Initializing DirectInput failed，插上鼠标就不提示，应该是找不到mouse device的关系

google了一下fake mouse device，第一个结果就找到了答案

11楼写到

Update-

Enabling “mouse keys”, a Windows accessibility feature, allows games to detect a mouse on touch devices.
http://www.microsoft.com/enable/trai…ic-keypad.aspx

I’m working out which TBS and RTS games work well with touch……

按照渣软的提示打开了这个黑科技：

右边角滑出菜单，选择设置->更改电脑设置
选择轻松使用
选择鼠标
打开使用数字小键盘在屏幕上移动鼠标

就好了lol；win8.1同样适用