台湾基督精兵协会最初是由50多名神学生所发起。1991年，他们感觉到台湾的宣教工作往往把重心放到海外，却似乎忽略了对台湾本土宣教之重要性、迫切性的察觉，而且当时的台湾长老教会内缺乏对青年信徒有力的培训与带领。在分享祷告之后，台湾神学院的5个学生团契建立起同工关系，并在一个学期的预备之后，于翌年1月举办了首次活动——第一届基督精兵营。这首次的活动包含了圣经、神学、圣经、生活实践、教会服事等等十项课程，并从教育、文化、生态、社会变迁中的教会使命等角度安排专题讲座，让青年基督徒能够更加深入地认识信仰与实践、台湾教会与教会所面临的问题。
从此，关注青年、关注台湾本土教会成长的台湾基督精兵协会迅速成长起来。从1995年开始，该协会每年组织几项面向全岛的培训与交流活动，随后又出版了协会通讯。发展背后的支持力量是众多青年基督徒发自内心的见证。
“在这里我真的看见弟兄姐妹之间有神的爱，很让人感动。……专题和造就班激励人起来愿意更多地认识神并且服事他。让人真的看见台湾长老教会是充满希望的。愿神更多地动工在你们身上，不管任何因素拦阻，都能使这个营会继续下去……”活动中来自士林教会的一名基督徒这样写道。
历次活动的课程安排、专题设置以及祷告会、赞美会等等，带给了台湾青年一代基督徒非常大的改变。一名年轻弟兄参加活动之后表示，原本只是带著结交朋友的目的来到营会，但是“神借著诗歌、祷告、讲道来抓住我，让一个原本认为从来不会想到要决志全职事奉的人，只是带著玩的心来认识人的我，再次被主找到！也决定顺服神，将自己献上。”许多在精兵营活动中决志献身的年轻人后来进入神学院就读，并立志成为全职传道人。
这些对神的事工燃起热情的台湾年轻人，希望由他们这一代的复兴带起台湾基督徒运动的复兴。台湾基督精兵协会所主办的历次活动，一直坚持引导青年基督徒对信仰、文化、人生等主题进行思索，在使信仰深化的同时，又通过讲座、实践等方式锻炼青年基督徒的领导能力。这一系列的“精兵运动”，被誉为“台湾长老教会自下而上发展的原生力量”。
2004年，精兵协会在连俊伟牧师的带领下首次向台湾以外的地区宣教。这次活动的时间只有7天，而地点选择在印尼的一个小岛苏门答腊岛。一名成员表示，尽管苏门答腊岛远不如印尼首都雅加达或爪哇岛那样热闹，但他们在那里能够有机会和当地的住民进行比较深刻的互动，而他认为，“真正的传教是生活的展现”。而另一名成员说，在这次活动当中他所学习到的比他所“宣”的更多。
在苏岛宣教的经验之后，精兵协会筹划了名为“马其顿的呼声”的宣教工作坊。于5月29-30日举行的这次活动上将有主日礼拜和六个介绍宣教工作不同方面的专题。而活动题目“马其顿的呼声”，则是来自使徒行传中使徒保罗的异象（徒16：6-10），强调宣教应该顺服圣灵的感动，带著怜悯的心看到“人的需要”。
台湾基督精兵协会的口号是“对上帝有信，对人有爱，对土地有情”。他们的成员很自豪地认为，在台湾民主化、本土化的转变当中，他们也是推动这股潮流得以成型的力量之一。
