历史上，塔城曾被称之为“楚乎楚”。传说一位云游四方的蒙古活佛途经今日塔城的楚呼楚泉边，用随身带的木碗取水解渴后，小睡泉边。醒来走时却忘了木碗。后来人遂把此泉（现遗址在市委大院）称为楚乎楚（蒙语：木碗之意）。之后，此名渐扩展至塔尔巴哈台山及其流下的河水。

当然，这只是一个美丽的传说，但塔城最早的确名叫“楚乎楚”。

清乾隆三十年（公元1765年），参赞大臣阿桂奏请朝廷，要把雅尔（今哈萨克斯坦国乌尔扎尔）肇丰城的驻防机构和军士向东搬迁，执行勘测建城任务的官兵发现塔尔巴哈台山南前山坡这片地方地势平坦，水资源丰富，洪水危害和风害都很小，人畜生存条件良好，于是就把“楚乎楚”泉作为建城标识，因此泉形似碗口，称“木碗泉”，蒙语为楚乎楚，因此，建城上奏朝廷的呈文中就用楚乎楚这一名称。

关于塔城为什么叫“楚乎楚”，还有另外几种说法，最典型的是说“楚乎楚”虽然指泉，但不是狭义的指现今塔城市委大院里的这眼泉。塔城市西北高，南部较低，地形很象一个木碗。据《新疆大记补编》17页记载：“楚乎楚水楚乎楚山，在塔城。塔尔巴哈台东南百里，百里其水曰楚乎楚，出山西南流经喀拉喀台东，又西南经五、六工西，又西南经县治西经头工南......与三工西北合楚乎楚，又南一余里左诸为南湖，又西南入额敏河。”从以上记载分析，楚乎楚可能就是现在的喀浪古尔河。同时，从塔城市的地形来看，楚乎楚或许不仅仅只限于一泉一水，而是对塔城市的统称。

“楚乎楚”城建成后，乾隆皇帝亲赐名为“绥靖城”。从雅尔（肇丰城）到楚乎楚（绥靖城）之间相距200多里，在这个范围内，楚乎楚（今塔城市）是自然条件较好的，水草茂盛，土地肥沃，树木成片，山岳围屏，气候较好，生态环境协调。北山南坡沿东西走向有一条地质活断层，地下水流出表面，形成许多大小不一的泉眼，由北向南汇入额敏河。草木丛生，禽兽栖息。由于塔城这一带是良好的春秋牧场，又是南北冬夏牧场转场必经的天然牧道，因此很早就有牧民游牧；同时，这里又是农业生产的好地方，交通条件较便利，这就是当时在“楚乎楚”建城的由来。

城建成后，参赞大臣、领队大臣等官员和下层办事衙署及驻军都居城内。城之四周便生发出商铺店肆、五行八作的民居。乾隆皇帝赐名“塔尔巴哈台绥靖城”，绥靖意为安抚，使地方保持平静。因城的名字较长，官方文书用全称，民间则取首尾二字，简约为塔城，日久天长，官方也随民众，公文也用塔城了。塔城实为蒙语和汉语合成的一个名称，显示了新疆多民族文化融合的特征。