相似人群分析在精准营销,推荐系统中的需求很多。
人的属性可以使用向量来表达,每个值代表一个属性的权重值,通过向量相似,可以得到一群相似的人群。
例如
使用cube表示属性
uid int8 primary key,
att cube -- 属性
);
使用cube或imgsmlr可以达到类似的目的。
a <-> b float8 Euclidean distance between a and b.
a <#> b float8 Taxicab (L-1 metric) distance between a and b.
a <=> b float8 Chebyshev (L-inf metric) distance between a and b.
但是如果向量很大(比如属性很多),建议使用一些方法抽象出典型的特征值,压缩向量。 类似图层,图片压缩。实际上imgsmlr就是这么做的:
1、创建插件
2、创建测试表
3、创建GIST索引
create index idx_tt_1 on tt using gist(c1);
4、创建生成随机CUBE的函数
select ('('||string_agg((random()*$2)::text, ',')||')')::cube from generate_series(1,$1);
$$ language sql strict;
5、CUBE最多存100个维度
postgres=# \set VERBOSITY verbose
postgres=# select gen_rand_cube(1000,10);
ERROR: 22P02: invalid input syntax for cube
LOCATION: cube_yyparse, cubeparse.y:111
6、写入测试数据
7、通过单个特征值CUBE查询相似人群,以点搜群
select * from tt order by c1 <-> '(1,2,3,4,5,6,7)' limit x; -- 个体搜群体
8、通过多个特征值CUBE查询相似人群,以群搜群
select * from tt order by c1 <-> '[(1,2,3,4,5,6,7),(1,3,4,5,6,71,3), ...]' limit x; -- 群体搜群体
postgres=# explain select * from tt order by c1 <-> '[(1,2,3),(2,3,4)]' limit 1;
QUERY PLAN
--------------------------------------------------------------------------
Limit (cost=0.11..0.14 rows=1 width=44)
-> Index Scan using idx_tt_1 on tt (cost=0.11..0.16 rows=2 width=44)
(3 rows)
《PostgreSQL 遗传学应用 - 矩阵相似距离计算 (欧式距离,…XX距离)》
https://github.com/postgrespro/imgsmlr
《PostgreSQL 相似搜索插件介绍大汇总 (cube,rum,pg_trgm,smlar,imgsmlr,pg_similarity) (rum,gin,gist)》
《PostgreSQL 11 相似图像搜索插件 imgsmlr 性能测试与优化 2 - 单机分区表 (dblink 异步调用并行) (4亿图像)》