Sümerce’ den Farsça’ ya geçen "nâ" veya "nay", kamış, kargı anlamlarına da gelen bu çalgının en eski adıdır. Arap toplumunda üflemeli çalgıların hemen tümü için kullanılan "mizmâr" sözcüğü, (nefes borusu, ses organı anlamında) ney için de kullanılmıştır.

Türkçe’ de ise hemen her zaman "ney" olarak anılmıştır. Çeşitli Avrupa ülkelerinde de benzer adlarla (örneğin Romanya’da "naiu" adıyla) adlandırılmıştır.

Farsça çalan, icrâ eden anlamına gelen "zeden" sözcüğünden takılanarak oluşturulan "neyzeden" bozularak, ney icrâcısı anlamında günümüzde de kullanılan "neyzen" e dönüşmüştür. Aynı anlamda Arapça kurallarına göre oluşturulan "nâyî" sözcüğü de kullanılmıştır.

Sümer toplumunda MÖ 5000 yıllarından itibaren kullanıldığı sanılan bu çalgıya ait elimizdeki en eski bulgu, MÖ 2800-3000 yıllarından kalan bugün Amerika’da Phledelphia Üniversitesi Müzesi’nde sergilenen neydir. Çalgının o dönemlerde de dinsel törenlerde kullanıldığı sanılmaktadır. Assomption rahiplerinden Thibaut’un "esrârengiz, cezbedici, tatlı ve âhenkli bir ses" diye tanımladığı ve şu şekilde şiirleştirdiği ney sadâsı, her dönemde insanları derinden etkilemiş, özellikle dinsel duyguları çağrıştırmıştır:

"Kamışların üzerinden geçerken, Kuşları uyandırmaya korkan tatlı bir meltemin kanat çırpınışları".

Sadâsından gelen bu özellik neyi, ilişkide bulunduğu her toplumda önemli bir çalgı haline getirmiştir. Türklerin İslâmiyeti kabûl ile birlikte kullanmaya başladıkları ney, Xlll. yüzyıldan itibaren İslâm tasavvufunun sembolü haline gelmiştir. Bunda bu yüzyılda yaşamış büyük mutasavvıf, filozof, şâir ve velî Mevlânâ Celâleddin-i Rûmî’nin rolü büyüktür.

XV. yüzyılda yaşamış bir gezgin olan Hoca Gıyaseddin Nakkaş’ın seyahatnâmesinde kendilerine mahsus bir nota yazısı geliştirip kullandıklarını da bildiğimiz Hıtay Türkleri'nin hâkanlık sarayında gördükleri oldukça ilginçtir:

"Sadinfu şehrindeki hâkanlık sarayının önünde üç yüz bin kadar kadın ve erkek toplanmıştı. İki bin kadar sâzende sazlarını aynı sese düzenleyip (akord edip), hep bir ağızdan hâkana duâ ettiler. Köslerin iki yanlarında kemençe, ney, mûsikâr ve diğer sazlarla hânendeler oturmuşlardı. Neyzenlerin bazıları neyi bilindiği üzere çalıp, bazıları ortasındaki deliklerden üflüyorlardı."

Mûsikîde çok ileri gittikleri bilinen Hıtay Türkleri’nin neyi, Orta Asya’ da eskiden beri kullandıkları ve hatta onu tıpkı bir yan flüt gibi de üfledikleri anlaşılmaktadır.

Tarihte Nây-ı Türkî, Hoş Nây (veya Koş Ney), Kurre Nây gibi adlarla anılan bugün yapısını ve özelliklerini tam olarak bilemediğimiz ney adından türemiş pek çok çalgı bulunmaktadır.