En 1609, Henry Hudson realizó su famoso viaje por esta vía fluvial y la bautizó como "El Gran Río de las Montañas". Como capitán del Half Moon, informó de su descubrimiento a la Compañía Holandesa de las Indias Occidentales, que patrocinó su expedición para encontrar una nueva ruta de navegación a la India. En su lugar, el comercio de pieles con los indios se estableció en varios puntos a lo largo del río Hudson.

Bajo el dominio holandés, el siguiente negocio en la región de Nueva Holanda fue la compra de tierras. Unos 20 años después de que Peter Minuit comprara la isla de Manhattan a los indios, Adrian Van der Donck recibió de la Compañía Holandesa de las Indias Occidentales la concesión de la colonia de Nepperhan (o Colen-Donck). Como patrón de la zona y según dictaban las leyes holandesas, compró las tierras al sachem indio de los Keskeskick a finales de la década de 1640. Conocido como De Jonkheer, "joven caballero" o "joven noble", por su estatus en Holanda, Van der Donck construyó en 1649 uno de los primeros aserraderos del Nuevo Mundo en De Zaag Kill, o río Aserradero. Aunque pequeño, el río proporcionaba una importante fuerza hidráulica para la ubicación del aserradero. Fue a partir del apodo de Van der Donck que evolucionó el nombre de la ciudad de Yonkers.

En 1664, los ingleses reclamaron el título de Nueva Holanda y rebautizaron la región con el nombre de Nueva York. Colen-Donck, o "Tierra de DeYounker", fue vendida en varias parcelas por la viuda de Van der Donck en 1667. En 1672, una gran parte de "The Yonkers" fue comprada por Frederick Philipse, quien comenzó a adquirir y desarrollar extensas propiedades inmobiliarias. Habiendo desarrollado un extenso comercio con los iroqueses, así como con las Indias Orientales y Occidentales, Philipse se convirtió en Señor del Señorío de Philipsborough y construyó la primera parte de Philipsburg Manor en lo que hoy es el centro de Yonkers en 1682. En 1693, Philipsborough abarcaba 25 millas cuadradas, desde Croton hasta Spuyten Duyvil y desde el río Hudson hasta el río Bronx, con la excepción de dos parcelas de tierra. Hoy en día, la mansión de Philipsburg se conoce como Philipse Manor Hall, que sirvió como sede del gobierno de la ciudad y fue el primer ayuntamiento.

Aunque Yonkers era una pequeña comunidad agrícola en el siglo XVIII, su paseo marítimo era (como lo es hoy) esencial, ya que servía de parada para balandros y diligencias. Pronto empezaron a surgir muchos negocios; se multiplicaron los aserraderos y molinos de molienda, aumentó la urbanización de terrenos y se desarrollaron herrerías, tabernas y almacenes generales. Tras la Guerra de la Independencia, los partidarios británicos, conocidos como tories, perdieron el derecho a sus tierras y la mansión de Philipsburg fue confiscada a Frederick Philipse III, sospechoso de apoyar a los británicos. Las tierras se dividieron y vendieron de acuerdo con las leyes del estado de Nueva York. El estado de Nueva York se dividió en 16 condados en 1788, y Yonkers se convirtió en una de las 16 ciudades en las que se dividió el condado de Westchester. En 1790, Yonkers se convirtió formalmente en una ciudad del condado de Westchester.

Entre 1805 y 1814 se construyó un molino de piedra (posiblemente el primer emplazamiento industrial de la ciudad) en la zona de Tuckahoe de Yonkers, que se utilizó como fábrica de algodón hasta 1852, cuando la Hodgman Rubber Company lo compró y comenzó a fabricar productos de caucho. La fabricación de sombreros fue otro próspero negocio en Yonkers en el siglo XIX. La era industrial en Yonkers se vio favorecida por las innovaciones en los viajes por agua y tierra. En 1848, se construyó la primera estación de ferrocarril que contribuyó al establecimiento de ocupaciones y comercios más diversos en la zona. Inventores como Elisha G. Otis, que desarrolló y fabricó los primeros dispositivos de seguridad para ascensores, que finalmente hicieron posibles los rascacielos modernos, llamaron a Yonkers su hogar. Otis Elevator y su sello "made in Yonkers" fue una de las primeras industrias que trajo el reconocimiento internacional a Yonkers.

El 12 de abril de 1855, Yonkers se constituyó en pueblo y surgieron nuevas industrias; aperos agrícolas, maquinaria eléctrica y el primer motor de trolebús fueron desarrollados por Osterheld & Eickemeyer. La fabricación de alfombras se vio revolucionada por los telares mecánicos Axminster (1858) y Moquette (1877) inventados en Yonkers. En 1865, se fundó Alexander Smith Carpet Shops, que pasó a engrosar las filas de las empresas multimillonarias nacidas en Yonkers. (Por cierto, Alexander Smith fue elegido diputado al Congreso en 1878, pero murió la noche de su elección). Otras primicias industriales fueron la industria azucarera en 1862 y el primer sistema de transporte masivo elevado del mundo, inventado por el residente Charles T. Harvey en 1867. El 1 de junio de 1872, el gobernador Hoffman firmó la carta constitutiva de Yonkers como primera ciudad del condado de Westchester. En aquella época, Yonkers contaba con una población de 20.000 habitantes.

A lo largo de su rica historia, Yonkers ha sido cuna de muchas "primicias". Su fundador, Adrian Van der Donck, fue el primer abogado de Nueva Holanda. El primer alumbrado público del condado de Westchester se introdujo en Yonkers en 1861. El primer periódico de Yonkers, The Yonkers' Herald, comenzó a publicarse en 1852, y el Yonkers Daily fue el primer periódico diario publicado en el condado de Westchester, que data de 1885.

Samuel Tilden, ex Gobernador del Estado de Nueva York y residente en Yonkers, fue el primer candidato presidencial que ganó el voto popular pero perdió el voto electoral en 1876. El primer partido de golf se jugó en Yonkers en 1888 en el Club St. Andrew's de North Broadway, y Yonkers se convirtió en la primera ciudad del Estado de Nueva York en erigir baños públicos municipales en 1896.

Hogar de muchos inventores notables, Yonkers fue la residencia de Leo H. Baekeland, que desarrolló y vendió el papel Velox a Eastman Kodak en 1899 e inventó el plástico sintético baquelita en 1906. Edwin E. Armstrong contribuyó a la tecnología, inventando la radiodifusión FM en Yonkers en 1912. Desde sus comienzos, Yonkers ha sido una comunidad progresista, en áreas de desarrollo, negocios e industria. Hoy en día, con la ayuda y el apoyo de la Cámara de Comercio de Yonkers, ese progresismo sigue proporcionando la fórmula del éxito.

Desde 1970, la población de Yonkers se ha mantenido prácticamente igual, en torno a los 200.000 habitantes. La ciudad ha experimentado un proceso de revitalización desde la década de 1990 que ha contribuido a mejorar muchas de sus zonas antiguas, así como a atraer a nuevos residentes y empresas. La zona ribereña del río Hudson de Yonkers también ha sido objeto de un gran esfuerzo para atraer parques y actividades recreativas. Hoy viven en Yonkers gentes de muchas culturas diferentes, lo que se refleja en la variedad de restaurantes y tiendas de la ciudad. La ciudad es conocida desde hace tiempo por su próspero distrito comercial en Central Avenue y Main Street.