在日文中，やくざ一词就反应了黑道成员卑下的地位。这个词源自日本的牌戏“おいちょかぶ(Oicho-Kabu)”。“おいちょかぶ”类似于21点，游戏的输赢由每手牌点数之和的尾数大小决定，最小点数为0。如果摸到8、 9、3三张牌(三张牌之和为20)，那么这一手牌的点数就是0，持牌者输。

日语中 8、9、3的发音分别是“や”、“く”、“ざ”，因此这三个发音组合起来就成了“やくざ”，也就是“无用的、没有价值”的意思。