Opgericht in 1895 te Brussel door Hippoliet Meert om de belangen van de Nederlandse taal te verdedigen. Twee jaar later stichtte Herman Kiewit de Jonge, niet op de hoogte van Meerts initiatief, het Algemeen Nederlands Taalverbond. In 1898 bundelden beide initiatieven de krachten en werd de hoofdzetel naar Dordrecht overgebracht. Sinds 1896 verschijnt het verenigingstijdschrift Neerlandia.
Tegenwoordig ijvert de vereniging voor de algemeen-Nederlandse integratie. Maar in het begin was het ANV voor de Nederlanders vooral een neutrale culturele vereniging die prat ging op de Nederlandse geschiedenis, terwijl de Vlaamse afdelingen nogal liberaal waren, de Vlaamse beweging steunden en streden voor de vernederlandsing van de Gentse rijksuniversiteit. Henri Picard richtte in Harderwijk een tak van het ANV op.