首先，需要予以澄清的是，苏格拉底从来没说过这句话。众所周知，我们今天所能了解的苏格拉底，95%来自于柏拉图的记述。柏拉图记述中的苏格拉底与这个意思最为接近的原话，来自于《申辩篇》。原话原意，并非指我苏格拉底一无所知，而是我苏格拉底比那些真正一无所知的人聪明一点，为什么呢？因为这些自以为很有知的人其实根本没有确切的“知识”，而只空有一堆“意见”。而我苏格拉底至少了解我并没有确切的知识。就因为这一点，我才是雅典最聪明的人。
按照苏格拉底的说法，知识是和确切存在的事物，即“有”联系在一起的。而无知，自然就和不存在，和“无”联系在一起。（这里不能展开存在-不存在，有-无 的问题）。而对于那些既非全然完整地存在着，又非根本不存在，而是介于两者之间的那些事物，对这一部分的把握和了解，就是意见。举例来说，很多人懂得欣赏美的画，美的音乐，就以为自己懂得了“美”。但苏格拉底认为这只是意见，而非知识。知识是对纯粹的“美”的掌握——显然，所有人，凡人，所能把握到的，都只是美的具体东西，而非美本身。
因此，“I know that I know nothing”这一简化版的苏格拉底名言，本身就违背了苏格拉底的理论。因为know到的，一定是有，是存在的事物，而非不存在的事物。说know nothing是没意义的，不可能的。
抛开哲学上的论理，就着日常经验而言，苏格拉底名言不过是让我们时常保持一个谦虚的心态，以避免自己把无知当有知，把半知半解当了然于胸。