费马于1636年发现了这个定理。在一封1640年10月18日的信中他第一次使用了上面的书写方式。
费马对梅森说：“我发现了费马小定理，这个可以用来检验素数。”
梅森说：“我知道，一个数字是一个素数减一次方除以这个素数，余数一定可以得到1。”
费马说：“比如2的100次方除以13得到的余数是几？根据费马小定理公式计算，得到就是3.”
梅森说：“那你如何进行素数检验？”
费马说：“利用随机化算法判断一个数是合数还是可能是素数。”
梅森说：“怎么个随机法？”
费马说：“根据我的办法，想要判断一个数n是不是素数，随机选取一个比n小的数a，得出这个a的n减去一次方，然后除以这个数，是不是会余1.”
梅森感觉有些绕，问：“然后呢？”
费马说：“如果余数不是1，就说明一定是合数。”
梅森摇摇头说：“如果余数是1，也许是个合数呢？你这个不严谨啊。”
费马说：“没错，如果选取了很多个小数余数都等于1。”
梅森摇摇头说：“那也不见得一定是素数。”
费马说：“如果不是素数，那也可以称之为伪素数。”
梅森摇摇头说：“这只能确定一定是不是合数，却不敢肯定一定是素数，只能知道是不是伪素数。”