1960年5月，中国第一条电气化铁路干线——宝成铁路宝鸡至凤州段建成通电，国产的6Y1型电力机车于1961年5月起赴宝成铁路实地试运行，但由于制造工艺较差，机车未能批量生产。为了应付电力机车短缺的情况、保证宝成铁路正常运营，前铁道部决定从法国阿尔斯通公司进口了25台电力机车作为过渡，这批机车在中国定型为6Y2型，6Y2，数字为该机车的轴数（6轴），Y则为引燃管的“引”字拼音声母，“2”代表第二种型号。

首批6Y2型机车于1960年7月运抵中国，配属宝鸡电力机务段，并于同年11月开始投入运用，成为当时宝成铁路宝凤段电气化铁路的主力机车。运用部门普遍认为，6Y2型机车电气系统质量良好，尤其牵引电动机甚少发生严重故障；但再生制动的缺点也十分明显。