法国数学家许凯在1484年写成的《算术三篇》中，使用了一些编写符号，如用D表示加法，用M表示减法．这两个符号最早出现在德国数学家维德曼写的《商业速算法》中，他用＋表示超过,用-表示不足．到1514年，荷兰的赫克首次用＋表示加法，用-表示减法．1544年，德国数学家施蒂费尔在《整数算术》中正式用＋和-表示加减，这两个符号逐渐被公认为真正的算术符号，广泛采用．
以符号*代表乘是英国数学家奥特雷德首创的．他于1631年出版的《数学之钥》中引入这种记法．据说是由加法符号＋变动而来，因为乘法运算是从相同数的连加运算发展而来的．后来，莱布尼兹认为*容易与X相混淆，建议用-表示乘号，这样，-也得到了承认．
除法符号/是英国的瓦里斯最初使用的，后来在英国得到了推广．除的本意是分，符号/的中间的横线把上、下两部分分开，形象地表示了分．至此，四则运算符号齐备了，当时还远未达到被各国普遍采用的程度。