Евгений Аркадьевич Киселев родился в 1961 году в Белгороде.
В 1983 году окончил Свердловский ордена Трудового Красного Знамени горный институт им. В.В. Вахрушева по специальности "Геологическая съёмка, поиски и разведка месторождений полезных ископаемых" с квалификацией "Горный инженер-геолог".
В 1983-1985 годах — инженер-геолог Уральской геолого-съемочной экспедиции Министерства геологии СССР.
В 1985-1998 годах — старший геолог, геолог II категории, начальник Горно-Алтайской поисково-съемочной экспедиции Мингео СССР (затем — Министерства экологии и природных ресурсов России).
В 1998-2000 годах — начальник Федерального государственного унитарного предприятия "Горно-Алтайская поисково-съемочная экспедиция" Министерства природных ресурсов РФ.
В 2000-2012 годах — заместитель генерального директора по геологоразведочным работам Федерального государственного унитарного предприятия "Всероссийский научно-исследовательский геологический институт им. А.П. Карпинского" (ФГУП "ВСЕГЕИ") Федерального агентства по недропользованию.
Являлся куратором региональных геолого-геофизических и геолого-съемочных работ Роснедр, в рамках которых создаются государственные геологические карты масштаба 1:200 000 и 1:1 000 000 Российской Федерации (новая серия и 3-е поколение).
С 2001 года Е.А. Киселев руководил работами и является соавтором ГИС-Атласа "Недра России".
С 2002 года активно участвовал в международном проекте "Атлас геологических карт Центральной Азии и сопредельных территорий масштаба 1:2 500 000".
С 2005 года по 2008 год принимал непосредственное участие в разработке ряда долгосрочных программ по региональному геологическому изучению недр суши и континентального шельфа Российской Федерации.
С 2012 года работал в должности заместителя руководителя Федерального агентства по недропользованию.
9 сентября 2015 года назначен временно исполняющим обязанности руководителя Роснедр.
Евгений Аркадьевич Киселев награжден знаком "Отличник разведки недр" (2004); занесен на Доску почета Министерства природных ресурсов и экологии Российской Федерации (2005); "Заслуженный геолог Российской Федерации" (2007); Лауреат премии Правительства Российской Федерации в области науки и техники (2011); награжден Почетной грамотой Федерального агентства по недропользованию (2014).
13 января 2016 года Распоряжением Правительства Российской Федерации № 6-р Киселев Евгений Аркадьевич назначен на должность заместителя Министра природных ресурсов и экологии Российской Федерации — Руководителя Федерального агентства по недропользованию.
25 июня 2021 года освобождён от должности заместителя Министра природных ресурсов и экологии — руководителя Федерального агентства по недропользованию в связи с упразднением этой должности.