虽然只有50万元的创业资本，马云还是认为未来的公司应该具有俯瞰世界的眼光和气魄，所以名字也应该是响亮的、国际化的。
为了给网站起个好名字，马云思索了很久。直到有一次马云去美国出差，在餐厅吃饭的时候，他突然想到，互联网就像一个无穷的宝藏，等着人们去发掘。这时他想到了《一千零一夜》中“阿里巴巴”的故事。故事中，善良的阿里巴巴凭着一句“芝麻开门”打开了通往财富的大门，而马云他们的宗旨是要为商人们敲开财富的大门。想到这，马云很兴奋。
马云找来餐厅的侍应生，问他是否知道阿里巴巴这个名字。侍应生说：“yes，alibaba——opensesame！(我知道，阿里巴巴——芝麻开门！)”
马云问了很多人，几乎所有人都知道阿里巴巴的故事。从美国人到印度人，只要懂英语，就能拼出“alibaba”。而且，不论语种，发音也近乎一致。就这样，一锤定音，马云将阿里巴巴确定为公司的名字。
正当马云为自己想出了这样一个美妙的名字而兴高采烈地去注册域名时，却被告知“阿里巴巴”已经名花有主了。据了解，这个域名两年前被一个加拿大人抢先注册了。
虽然当时马云手中只有50万元创业资本，他却不惜花费1万美元从那个加拿大人手中买回了阿里巴巴的域名。虽然代价不菲，但与google斥资百万赎回两个cn域名相比，马云当初的花费还是值得的。
而有趣的是，有着理想主义的马云同时将alimama.com、alibaby.com域名注册下来。他说：“阿里爸爸、阿里妈妈、阿里贝贝本来就应该是一家。”
马云将网站取名为“阿里巴巴”其实有更深一层的含义，他说：“叫阿里巴巴不仅仅是为了中国，也为了全球。我们的事业不仅是为了赚钱，而是为了创建一家全球化的、可以做102年的优秀公司。”