麻雀搜索算法（SSA）
1. 背景与动机 麻雀搜索算法（Sparrow Search Algorithm, SSA）由 Jie Xue 与 Bing Shen 于 2020 年提出，论文 “A novel swarm intelligence optimization approach: sparrow search algorithm” 发表在 Systems Science & Control...
文章
哈里斯鹰优化算法（HHO）
1. 背景与动机 哈里斯鹰优化算法（Harris Hawks Optimization, HHO）由 Ali Asghar Heidari、Seyedali Mirjalili、Hossam Faris、Ibrahim Aljarah、Majid Mafarja 与 Huiling Chen 于 2019 年提出，论文 “HHO: Harris hawks optimization...
人工蜂群算法（ABC）
1. 背景与动机 人工蜂群算法（Artificial Bee Colony Algorithm, ABC）由土耳其 Erciyes 大学的 Dervis Karaboga 于 2005 年在其技术报告 TR06 中首次提出，随后在 Karaboga 与 Basturk 2007 年发表于 Journal of Global Optimization 的论文中给出了完整的理论框架与实...
蝙蝠算法（BA）
1. 背景与动机 蝙蝠算法（Bat Algorithm, BA）由 Xin-She Yang 于 2010 年提出，论文 “A New Metaheuristic Bat-Inspired Algorithm” 发表在 NICSO 2010 会议上1，并在 2014 年的专著 Nature-Inspired Algorithms 中给出了扩展版本2。 BA 的灵感来自蝙蝠...
协方差矩阵自适应进化策略（CMA-ES）
1. 背景与动机 协方差矩阵自适应进化策略（Covariance Matrix Adaptation Evolution Strategy, CMA-ES）由 Nikolaus Hansen 与 Andreas Ostermeier 于 2001 年提出1，Hansen 随后在 2006 年发布了被公认为该领域”圣经”的教程 The CMA Evolution Strategy: ...
布谷鸟搜索算法（CS）
1. 背景与动机 布谷鸟搜索算法（Cuckoo Search, CS）由 Xin-She Yang 与 Suash Deb 于 2009 年提出，论文 “Cuckoo Search via Lévy flights” 发表在 IEEE 的 NaBIC 会议上1，随后两人在 2010 年的 International Journal of Mathematical Modelling...
差分进化算法（DE）
1. 背景与动机 差分进化算法（Differential Evolution, DE）由 Rainer Storn 与 Kenneth Price 于 1997 年提出1，最初发表在 Journal of Global Optimization 上，随后 Storn 与 Price 在 2002 年发表了详细的技术报告2。DE 的提出动机非常直接：当时最有效的全局优化器之一 Nel...
进化策略（ES）
1. 背景与历史 进化策略（Evolution Strategy, ES）由 Ingo Rechenberg 与 Hans-Paul Schwefel 于 20 世纪 60 年代在德国柏林工业大学提出，是最早的进化计算方法之一，比遗传算法早约十年12。Rechenberg 在 1960 年代研究了”三进制选择实验”（three-digit selection experiment）...
萤火虫算法（FA）
1. 背景与动机 萤火虫算法（Firefly Algorithm, FA）由 Xin-She Yang 于 2008 年首次提出，论文 “Firefly algorithms for multimodal optimization” 发表在 SAGA 2009 会议上1，并在同年出版的专著 Nature-Inspired Metaheuristic Algorithms 中给出了系...
遗传算法（GA）
1. 背景与历史 遗传算法（Genetic Algorithm, GA）由美国密歇根大学的 John Holland 教授及其学生在 20 世纪 70 年代初提出，其奠基性著作 Adaptation in Natural and Artificial Systems（1975 年由密歇根大学出版社出版，1992 年 MIT Press 再版）系统阐述了 GA 的数学框架。Holla...
灰狼优化算法（GWO）
1. 背景与动机 灰狼优化器（Grey Wolf Optimizer, GWO）由 Seyedali Mirjalili、Smiles Mirjalili 与 Andrew Lewis 于 2014 年提出，论文 “Grey Wolf Optimizer” 发表在 Advances in Engineering Software 上1。它是继 WOA 之后 Mirjalili 团队...
和声搜索算法（HS）
1. 背景与动机 和声搜索算法（Harmony Search, HS）由 Zong Woo Geem、Joong Hoon Kim 与 G. V. Loganathan 于 2001 年提出，论文 “A New Heuristic Optimization Algorithm: Harmony Search” 发表在 Simulation 期刊上1。该算法模拟音乐家即兴演奏（imp...
粒子群优化算法（PSO）
1. 背景与动机 粒子群优化算法（Particle Swarm Optimization, PSO）由 James Kennedy 与 Russell Eberhart 于 1995 年在 IEEE 神经网络学术会议（ICNN）上首次提出1。其灵感来源于对鸟群觅食行为的建模：鸟群中的每个个体（粒子）并不知道食物源的位置，只能依据两条信息调整自己的飞行方向—— 自身的历史经验...
教与学优化算法（TLBO）
1. 背景与动机 教与学优化算法（Teaching-Learning-Based Optimization, TLBO）由 R. Venkata Rao、Varsha J. Savsani 与 D. P. Vakharia 于 2011 年提出，论文 “Teaching–Learning-based Optimization: A novel method for constrai...
鲸鱼优化算法（WOA）
1. 背景与动机 鲸鱼优化算法（Whale Optimization Algorithm, WOA）由 Seyedali Mirjalili 与 Andrew Lewis 于 2016 年提出，论文 “The Whale Optimization Algorithm” 发表在 Advances in Engineering Software 上1。它是 Mirjalili 等人在同...
篇章级关系抽取论文整理
2017年论文 TACL2017 论文题目:Cross-sentence n-ary relation extraction with graph LSTMs 论文地址,论文源码：暂无 EACL2017 论文题目:Distant Supervision for Relation Extraction beyon...
常见的论文中模型评价指标
在机器学习与深度学习的研究中，如何科学地评估模型性能是一个核心问题。本文整理了论文中常见的几类评价指标：混淆矩阵相关指标（Accuracy、Precision、Recall、Fβ-Score 等）、ROC 曲线与 AUC、以及推荐系统中广泛使用的 HR@K、MAP、NDCG、MRR 等。 混淆矩阵 混淆矩阵是分类模型评估中最基础的工具，它以 $n \times n$ 矩阵的形式直观地呈现...
论文解读之R-Net阅读理解模型
简介 机器阅读理解（Machine Reading Comprehension）是指让计算机阅读一段文本，并据此回答与文中内容相关的问题。斯坦福大学发布的 SQuAD 数据集是该领域最具影响力的基准数据集之一。微软亚洲研究院提出的 R-Net 模型是首个在部分指标上接近人类水平的深度学习模型，本文将对 R-Net 的原理进行详细解读。 问题定义 机器阅读理解的每个样本由一个三元组构成：...
ACL会议一些重要的论文和代码演示
ACL 2019 会议一些重要论文 《Cognitive Graph for Multi-Hop Reading Comprehension at Scale》(ACL 2019)论文地址,GitHub地址 《Variational Pretraining for Semi-supervised Text Classification》(ACL 2019)论文地址,GitHub地...
数据集大合集
这里介绍一些常见的数据集,用作研究或者学习的一些东西. Kaggle竞赛 书籍推荐数据集(goodreads/上万图书/百万评价): Kaggle地址 带有预期点数和获胜概率的NFL比赛详情数据集(2009-2016): Kaggle地址 HackerNews数据集(2006年以来约1/4文章): Kaggle地址 酒店评价数据集: Kaggle地址 1950年以来NB...
知识表征学习必读论文
总结性论文 论文标题: Representation Learning: A Review and New Perspectives; 作者:Yoshua Bengio, Aaron Courville, and Pascal Vincent. TPAMI 2013. 论文地址. 论文标题:知识...
翻译模型在知识图谱中的应用(一):基本模型
1. 翻译模型简介 将实体向量表示(Embedding)在低维稠密向量空间中，然后进行计算和推理.应用的主要方向有三元组分类、链接预测等问题.具体的一些翻译模型主要有:基本翻译模型(TransE, TransH, TransR, etc)、双线性(RESCAL, DisMult, ComplEx, etc)、双曲几何(Poincare, MuRE, etc)、神经网络(ConvE, ...
翻译模型在知识图谱中的应用(二):基于高斯模型
1. 简介 在上一次博文中重点讨论了一些用于生成Embedding预训练向量最为基本的模型,例如TransE、TransR、TransH等等很多模型,但是这些模型中存在有多种不确定的影响因素，所以直接以距离模型稍微有些欠缺.因此提出一种基于高斯分布的模型来对Embedding进行预训练. 2. 基于高斯分布模型 2.1 KG2E 模型 由于上述的几种翻译模型中的方法都是将实体...
模拟退火算法
1. 简介 模拟退火算法是一种通用的概率算法，用于在一个大的搜寻空间内寻找问题的最优解。这种思想来源于物理中固体退火的过程，即将固体加热到足够的温度的时候，再缓慢冷却。温度升高时候，固体内部粒子随着温度升高变为无序状态，内能增大，而缓慢冷却的时候粒子却又逐渐趋近于有序状态。实际上这一思想是在一个过程中寻求系统能量最小的一种算法方式，在任意温度下，系统的能量都可以达到热平衡状态，而冷却...
蚁群算法
1.背景 20世纪90年代，意大利学者M.Dorigo,V.Maniezzo,A.Colorni等从生物进化的机制中受到启发，通过穆尼自然界蚂蚁搜索路径的行为，提出来一种新型的模拟进化算法——蚁群算法，在1991年ECAL上发表“Distributed optimization by ant colonies”，在其提出之后近五年中并没有在国际学术界引起广泛的关注。1996年，Dor...