Das Wort Harpune wurde im frühen 17. Jahrhundert aus dem Niederländischen (harpoen) ins Deutsche entlehnt und geht wohl auf französisch harpon zurück, womit in alt- und mittelfranzösischen Quellen verschiedene Arten von Widerhaken bezeichnet werden. Erstmals begegnet es um 1130 in der Bedeutung „Verschluss einer Brosche,“ also im Schmuckhandwerk, spätestens seit dem 15. Jahrhundert ist es in der im Bauwesen auch heute noch geläufigen Bedeutung „Bauklammer (zur Verbindung von Mauersteinen, Balken usw.)“ gebräuchlich. Der Wortsinn „Wurfspieß zum Fisch- oder Walfang“ ist im Französischen erst 1516 nachweisbar, im Niederländischen hingegen bereits 1287 und häufiger im 14. Jahrhundert, ist mithin wohl zuerst dort aufgekommen und später ins Französische rückentlehnt worden. Dafür spricht, dass die Niederlande im 16. und 17. Jahrhundert zur führenden Walfangnation Europas aufstiegen und das Wort zu dieser Zeit auf diesem Wege nicht nur ins Deutsche gelangte (erstmals 1604 in der Form harpone), sondern auch in die skandinavischen Sprachen (schwedisch harpun, erstmals 1674) sowie ins Englische (harpoon, erstmals 1625), wobei die Gebersprache in letzterem Fall nicht sicher ermittelbar ist. Spanisch arpón, portugiesisch arpão und italienisch arpione (auch arpòne) stellen ältere Entlehnungen (13.–14. Jh.) aus dem Französischen dar und sind von jeher in der älteren Bedeutung „Widerhaken, Mauerhaken“ geläufig, nahmen aber gleichfalls nach 1600 den heute dominanten Wortsinn „Wurfspieß“ an.